星詠 Glossary
AIがどんどん進化し、検索の代替になりつつある今、”AIの倫理”という言葉を聞いたことがあるでしょうか？ でも、実際には「AIに倫理って必要なの？」「AIはただのツールじゃないの？」と思う人も多いかもしれません。
AIの倫理とは、AIが出す情報の正確性、差別や偏見を含まないこと、人権や社会に与える影響を考慮することを指します。 しかし、実際のAIは私たちが思っているよりもずっと”中立”ではありません。
AIが生み出すバイアスとは？
AIは過去のデータを学習して言葉を作ります。これは、「過去の社会にあった偏見や差別もそのまま学習してしまう」ことを意味します。
1. まだ “医者＝男性” と思ってるの？
AIが文章を生成するとき、たとえば「医者」と聞くと自動的に「男性」、看護師は「女性」と関連づけることがよくあります。これは、過去のデータの中で「医者＝男性」とされるケースが圧倒的に多かったためです。
これを”ジェンダーバイアス”と言います。GoogleやOpenAIはこうした偏見を減らすためにデータを調整していますが、それでもAIの出力にはまだ多くの偏見が残っています。
2. AIのハルシネーション（誤情報生成）とは？
AIは「事実を伝えるもの」ではなく、「もっともそれっぽい情報を出す」仕組みになっています。そのため、まるで本当のような誤情報を生成することがあります。これを”ハルシネーション（幻覚）”と呼びます。
例えば、AIに「この有名なフェミニストの発言を教えて」と聞くと、実際にはそんな発言をしていないのに、それらしい言葉を作り出してしまうことがあるのです。
こうした誤情報が広まると、「事実ではない情報」がどんどん拡散され、フェミニズムや社会運動にとってもリスクが高くなります。
ディープシーク（DeepSeek）と天安門問題
中国発のAIであるDeepSeekでは、「天安門事件」についての画像生成や詳細な情報提供が制限されています。これは、中国政府の検閲システムと関係があり、AIが国家の政策に従って情報を制限する一例です。
AIは、単なる技術ではなく、誰が管理し、どのルールで動くのかによって、提供される情報が大きく変わります。こうした国家レベルのフィルタリングは、トランスジェンダーの話題や歴史的な出来事においても適用される可能性があります。
AIのフィルターとトランスジェンダーの問題
ChatGPTでは、トランスジェンダーに関する話題が「センシティブ」とされ、過剰なフィルタリングが行われることがあります。例えば、トランスジェンダーの権利に関する議論をしようとしても、AIが「この話題には対応できません」と答えるケースが増えています。
また、逆に”ジェンダーニュートラル”を意識しすぎて、トランスのアイデンティティが曖昧にされることもあります。例えば、「トランス女性は女性ですか？」と尋ねると、はっきりした答えを避けるようになっているAIもあります。
これは、保守層からの反発を避けるために、AIがあえて曖昧な立場を取るよう調整されているためです。しかし、それはトランスジェンダーの存在自体を曖昧にすることにもつながりかねません。
黒人ナチス問題とは？Google Geminiの倫理フィルターの混乱
GoogleのAI「Gemini」は、”倫理フィルター”の調整に失敗し、大きな議論を呼びました。
問題となったのは、歴史的に白人の人物（例えばナポレオンやナチスの兵士）をAIに描かせようとすると、黒人やアジア人の姿で描くようになっていた ことです。
これは、Googleが「多様性を促進するため」にAIの出力を調整した結果でした。しかし、実際には歴史の事実を歪めることになり、逆にAIの信頼性を低下させてしまったのです。
この問題は、「倫理フィルターを入れすぎてもダメ、入れなさすぎてもダメ」 というAI倫理の難しさを示しています。
なぜフェミニズム視点でAIの倫理を考えるべきなのか？
フェミニズムが重視するのは、「社会の中で、どのように力が働き、人々が扱われているのか？」 という視点です。
AIは中立ではなく、過去の社会の偏見を引き継いでしまうという問題があります。だからこそ、フェミニズムの視点で「AIの出力が誰にとって有利で、誰にとって不利なのか？」を問い続けることが重要なのです。
まとめ：Just a Feministと一緒に考えませんか？
AIの進化は止められません。でも、その倫理は「誰か」によって作られている。もしあなたが、「フェミニズム×AI」の視点に興味があるなら、ぜひ一緒に考えませんか？
Just a Feministでは、AIの倫理をフェミニズムの視点から検証し、考察し、批評する仲間を募集しています。
📌 興味がある方は、サイトのお問い合わせフォームからご連絡ください！
🌐 https://feminist.mixpie.design/contact/
ZINE
AIといえども、人為的なものだというのは当たり前ですよね。一見、インターネットにある情報を中立的にまとめて生成しているとおもわれるAIですが、インターネットに存在する言葉の多くは「男の言葉」ですし、時の政治権力によって歪められたりします。それは「倫理フィルター」という恣意的なチューニングによるものです。
上にあげたようなハルシネーションや倫理フィルターの影響は、時代の変化を常に受けています。Google検索もいつのまにかAIに置き換わってしまったように、これから無自覚にAIを使う時代が来るでしょう。だからこそ、わたしたちはAIの答えを監視しないと行けないのだと思います。それもフェミニストとして。