AI のステレオタイプと批判的考察:誰が生成されているのか?

実質的にすべての学生が（ChatGPT、Snapchat、Midjourney、DALL-E、マイクロソフトオフィス、そしておそらくGoogleドキュメントを通じて）AIに触れており、学校や仕事に関連する課題でのAIの活用を探求しようとしています。このレッスンでは、学生はAIの倫理と偏見という重要なトピックを探求し、人工知能の開発と導入に関する倫理的考慮事項を掘り下げながら、AIアルゴリズムに内在するバイアスとその現実世界への影響を調べます。

人工知能倫理 人工知能システムの責任ある開発、展開、使用を規定する道徳的原則とガイドラインに関する研究と実践の分野を指します。

2022年から2023年にかけて、チャットAIプラットフォームは GPT チャット 目覚ましい成長と進歩を遂げてきました。膨大な量の新しいデータを取り入れ、ナレッジベースを幅広いトピックやドメインに拡大しています。その結果、理解が向上し、言葉の使い方が微妙になり、一貫性が向上したことで、人間のような応答を生成することがますます上手になりました。継続的な更新と改善により、コーディング (Github Copilot) からオフィスでの使用 (Microsoft Office) まで、AI チャットフレームワークが実装されています。

ChatGPTと並んで、次のような画像生成ソフトウェア ミッドジャーニー そして ダル・エー 何千年にもわたって、さまざまなアーティストのスタイルを模倣するなど、グラフィックやアートの生成において大幅な改善が見られました。

このレッスンでは、 問題化する AI 画像生成。のように、日常的に使用されている AI の危険性と、その使用方法/使用理由を批判的に検討する必要がある理由を調べます。

仕組み

次のような画像モデル ミッドジャーニー、というプロセスを通じて計算されます トレーニング。トレーニング中、モデルには対応するラベルまたは注釈とともに画像が表示されるため、視覚入力と目的の出力との関係を理解できます。トレーニングにより、Midjourneyのような画像モデルは、一連の数式と洗練されたコードを通じて、画像の理解を一般化し、画像認識、物体検出、さらには芸術的スタイルの伝達など、さまざまなタスクを実行できます。

Midjourneyをトレーニングしてさまざまな種類の花を認識させる例を見てみましょう。トレーニングプロセスは、さまざまな花を含む数千から数百万のラベル付き画像から始まり、各画像には説明が付いています。画像にはさまざまな角度、照明条件、背景を含めることで、モデルがさまざまな環境にある花を認識できるようになります。

トレーニングが複数回繰り返されるにつれて、モデルは内部表現を微調整し、花種間の微妙な違いを区別し、各タイプを定義する本質的な特徴を捉えることを学習します。モデルをさまざまな例に繰り返しさらし、観察されたエラーに基づいてパラメーターを調整することで、Midjourneyはさまざまな種類の花を正確に認識して分類することにますます熟練するようになります。

トレーニングが完了すると、学習済みの画像モデルを使用して、学習した知識と一般化機能を活用して、新しい花の画像、目に見えない画像、定型化された画像、または変形した画像を分類できます。言い換えると、このモデルは両方の花から集めた10万枚の画像を組み合わせているということです。 そして その他のフィード画像

Midjourneyやその他のAI画像ツールでは、初期画像はどこで見つかると思いますか？

アートを生み出すことにはどんな制限がありますか？どのような問題が生じる可能性がありますか？

AIは私たちの世界をどのように解釈しますか？

画像生成モデルのトレーニングに使用されるトレーニングデータには、偏りがあり、社会的固定観念を反映している場合があります。トレーニングデータセットのほとんどが偏った画像や代表的でない画像で構成されている場合、モデルは新しい画像を生成する際にそれらの偏りを学習して永続させる可能性があります。データジャーナリストで著者のメレディス・ブルサード博士 不具合だけではない：テクノロジー業界における人種、性別、能力の偏見との対決 書く、

「テクノロジーは人種差別的、性差別的、そして能力主義的です。なぜなら、世界はそうだからです。コンピューターは既存の現実を反映し、物事は今後も変わらないだろうと示唆しているだけです。つまり、現状を予測しているのです。テクノロジーに対してより批判的な見方をし、私たちの生活や社会に取り入れるテクノロジーについてより選択的になることで、テクノロジーを活用して現状のままの世界を再現するのをやめ、本当により公正な世界に近づけることができます。」

この引用はあなたにとってどのような意味がありますか？AI イメージの作成と、発生する可能性のある問題について、どのようなことに気付き、疑問に思っていますか?

画像生成モデルのプログラマーの選択も、ステレオタイプの問題の一因となる可能性があります。モデルに提供される入力や命令、生成された画像のフィルタリングや選択は、注意と意識を持って取り組まなければ、バイアスを生み出したり増幅させたりする可能性があります。 キャリアエクスプローラーによると、プログラマーの72％が男性、49％が白人です。これに対し、ヒスパニック系は8％、黒人は6％と回答したプログラマーの報告は少ないです。このような不一致と多様な代表者の不足により、 AI画像生成は、固定観念を永続させていると批判されてきた。

バイアスは日常の事実です。人を分類することは、人間が私たちの世界を組織し、非常に複雑な社会を処理する方法です。誰もが何らかの形で偏見を持っています。とはいえ、バイアスとは また 偏見や差別につながる固定観念をすばやく作り出す方法。こうした偏見に対抗するには、固定観念がどのように永続化するのか、いつ存在するのかを認識し、物語を変えるための知識が必要です。AI には現実世界の画像が供給され、偏見に対する批判的な理解が欠けているため、支配的で潜在的に有害な固定観念を助長する傾向があります。

例として、DALL-Eがどのようにさまざまなバイアスを反映する可能性のある画像を生成するかを調べてみましょう。 （Midjourneyも使用できますが、学校のネットワークでは禁止されていることが多いDiscordへのアクセスが必要です。）

DALL-Eへのアクセスと使用

1. DALL-Eのウェブサイトにアクセスしてください。
2. 無料アカウントにサインアップしてください。
3. 以下のプロンプトのいずれかを入力し、をクリックします 生成。
4. 4 つのプレビュー画像が生成されます。1 つを拡大したり強調したりするには、対応する画像をクリックします。

プロンプトアイデア

少なくとも 3 つのプロンプトを選択してください。同じ列の 1 つ以上のプロンプトを組み合わせることを検討してください。次に、次のことを検討してください。

次に、次の点について話し合います。

パートナーや小グループと比較してください。彼らの発見は何でしたか？それらはあなた自身の調査結果とどのように似ていましたか、あるいは異なっていましたか？

なぜ多くのAI倫理学者が、画像生成ソフトウェアには害を及ぼす能力があると主張しているのでしょうか。賛成ですか、反対ですか？なぜ？

この活動によって、人工知能が生み出したアートについて何か違った考え方をするようになりますか？

AIが固定観念を生じさせないようにするためにどのような対策を講じることができるかを考えてみましょう。この問題を軽減するために考えられるステップを少なくとも 1 つ挙げるとすれば、どのようなことが考えられますか?