「AI makes me feel……」。ニューヨークの会場に設置されたスクリーンには、参加者がAIに抱く期待や不安が次々と映し出されていた。
AIは私たちの社会に急速に浸透している。私たちはAIを目の前にすると、まず「何ができるのか」「どれほど正確なのか」という性能に目を向けてしまう。
来場者の「AI makes me feel…」への回答がスクリーンに表示される様子 筆者撮影
しかし、その技術を誰が設計し、誰が利益を得て、誤りや不利益を誰が引き受けるのかは、十分に問われているだろうか。そこには、技術の性能だけでは測ることのできない、権力や他者との関係のあり方が深く関わっている。だからこそ今、AIを考えるうえで、フェミニズムの視点があらためて注目されている。
ニューヨークのバーナード・カレッジ・女性学研究センターで開催されたイベント「なぜAIにフェミニズムが必要なのか：キャンパスの監視から世界的な紛争まで（Why AI Needs Feminism: From Campus Surveillance to Global Conflicts）」では、『データ・フェミニズム』の著者ローレン・クラインと、データ・ジャーナリストのメレディス・ブラッサードが登壇し、AIがもたらす構造的な不均衡について議論した。
そこで繰り返し語られたのは、フェミニズムとは、女性やジェンダーに関する問題だけを扱うものではなく、社会における不平等や、その背景にある力関係を問い直す思想でもあるということだ。
本記事では、こうしたフェミニズムの視点を通じて、医療と警察で使われるAIの違いや、コミュニティが主体となり、技術の目的や利用条件を決める試みなどの事例とともに、AIをめぐる権力と主体性について考える。
同じ技術でも、文脈によって意味は一変する
AIのめまぐるしい進化を前に、その技術を「誰が設計し、誰が利益を得て、誤りや不利益を引き受けるのか」という課題を巡って影響が浮き彫りになっているのが警察など権威性の伴う現場だ。
アメリカの医療現場では、診察中の会話をAIが自動で記録・要約する「アンビエント・リスニング」の導入が進んでいる。医師の事務負担を軽減し、より多くの患者を診察できるようになる一方で、学習データの偏りにより、特定の人種や言語に対する認識精度の低下や誤りも報告されている。そのため、AIが作成した記録を医師が確認・修正すること、その記録を患者に開示することを前提とした運用が求められるという。
しかし、同じ音声認識技術が警察官のボディカメラに導入された場合、市民への影響は大きく異なる。医療では、患者が一定の手続きを通じて医療機関の責任を問う仕組みがある。しかし、警察の対応に誤りがあったとして、市民がその責任を追及しようとする場合、両者の間にはあまりにも大きな権力格差が存在する。
同じ音声認識技術であっても、利用者が異議を申し立てられるのか、導入を拒否できるのか、誤りが起きたときに誰が責任を負うのかによって、その意味は変わる。AIを評価する際に見るべきなのは、技術の精度だけではない。その技術が「どのような場所や関係性で、どのような目的・方法で利用されているのか」という文脈まで含めて評価する必要がある。
その点でブラッサードは、目的や文脈に応じてリスクを評価するEUのAI法（EU AI Act）を高く評価している。例えば、スマートフォンのロックを解除するための顔認証と、警察が公共空間で市民を識別するために用いる顔認証では、同じ技術を使用していても、権力関係や社会的な影響は異なる。
また、障害のある人の生活を支援するAIなど、社会に大きな可能性をもたらす技術もある。文脈に応じて技術を評価することは、「AIが人類を滅亡させる」といった破滅論や、「技術はあらゆる問題を解決する」といった技術楽観論に振り回されず、私たちはどのような未来を望むのかを自ら問い直し、それを実現するために必要な人々やツールを考えるための指針となる。
フェミニズムは「問い」を広げ、つなげる思想
こうして社会に存在する力関係を問い直し、文脈や関係性を捉え、当事者の声に耳を傾け、信頼を重視することは、フェミニズムが持つ視点でもある。だからこそ、AIをめぐる意思決定においてもフェミニズムは重要な指針になり得る。クライン氏は、フェミニズムは単に物事を批判したり理解したりするための視点ではなく、既存の枠組みに代わるオルタナティブや、新たな可能性を切り拓くためのツールでもあると強調した。
そこで重要になるのは、どのような問いから出発するかということだ。クラインは、「AIをどのように導入するか」ではなく、まず「そもそもAIを導入する必要があるのか」と問いかけることから始めるべきだと指摘する。さらに、導入するのであれば、そのコミュニティや集団が大切にしてきた価値観や言葉を尊重したかたちで、どのように実装していくべきかを考えなければならない。
その具体例として紹介されたのが、マオリ語の保全と継承に取り組むTe Hiku Mediaだ。同組織は、マオリ語の音声認識技術や言語モデルを開発する一方で、収集した言語データを誰が所有し、どのような目的で利用できるのかについて、コミュニティ自身が決定権を持つことを重視している。
ここで重要なのは、外部からAIを地域に持ち込み、技術によって言語を「救う」ことではない。地域の人々が、AIを使う目的や条件を自ら決めることだ。この事例から問いを広げていくと、AIの精度だけでは見えなかった問題が浮かび上がる。
誰が言語データを提供し、誰がそこから利益を得るのか。言語を保存することが、同時にその言語や文化を外部から利用可能な、行き過ぎれば搾取可能な資源へと変えてしまわないか。技術が文化を「救う」という物語のなかで、当事者の決定権が失われていないか。
一つの問いを掘り下げていくと、別の問いへと広がっていく。AIが特定の言語や人種を正しく認識できないのはなぜか。そこをたどれば、誰の視点に基づき、どのような言葉や身体がデータとして蓄積され、誰の存在が「標準」から外されてきたのかという歴史に行き着く。
しかし、単純に不足しているデータをAIに学習させればいいということではない。Te Hiku Mediaのピーター・ルーカス・ジョーンズはTIME誌に「デジタル世界においてデータは土地のようなものであり、先住民として自分たちのデータを管理・統治し、継続的に守っていけなければ、私たちはデジタル世界でも『土地をもたない民』になってしまう」
と語っている。
AIによって不利益を受ける人々に目を向けると、植民地主義や社会的・経済的格差、人種差別や性差別、障害をめぐる問題など、社会に存在するさまざまな不平等とのつながりが見えてくる。これらは互いに密接に絡みあっており、切り離して考えることはできない。ここにケアや関係性を重視するフェミニズムとAIが交差する未来が見えてくる。
また、フェミニズムにおける「同意」のあり方をテクノロジーの文脈に応用したThe Consentful Projectは、「個人データは“デジタル上の身体”である」という考えに基づき、デジタル上での同意の条件を「自由意思に基づくこと」「いつでも撤回できること」「十分な情報があること」「積極的な意思があること」「対象や目的が明確であること」の5つに整理している。
Image via The Consentful Project
一度利用規約に同意したからといって、将来にわたるあらゆるデータ利用に同意したことにはならない。何に対する同意なのかが明確で、後から撤回できること。利用しないという選択肢が、実質的に保障されていること。つまり、個人データについても、本人が十分な情報を得たうえで、自らコントロールできるべきだと考える。
これは米国のプランド・ペアレントフッドが提唱した健全な性的同意の5つの条件を、テクノロジーの文脈へ応用した考え方だ。こうした視点も、AIをめぐる意思決定やデータ利用のあり方を考えるうえで重要な指針となり得る。
そしてクラインは、まず技術を「どうすれば利益を生み出せるか」という問いから始めるのではなく、「私がともに活動している人々や、支援したいと願う人々にとって、本当に必要とされているものは何か」と問うことが重要だと語った。
問いの出発点が変われば、技術をつくる目的も、評価の基準も変わる。コミュニティは、完成したAIを受け取るだけの利用者ではなく、技術を導入するかどうか、その条件をどう定めるかを決める主体になれるという。
筆者撮影
問い続けるためのAIリテラシー
「自らの手で何かを作り出す行為から遠ざかるほど、人間の状況は悪化するが、資本主義には都合がよくなる。同様に、答えに早くたどり着くほど企業が利益を最大化するには好都合だが、人間にとっては不利益だ。その事実を認識し、可能であればそれに抗わなければならない」
ブラッサードは、多くの人に資本主義を批判する余裕や選択肢がないことを認めたうえで、それでもAIをめぐる問題は「資本主義の問題」であると指摘する。
人間にとって、時間をかけながら試行錯誤する過程は単なる非効率ではない。その過程を通じて、私たちは自らの経験に根ざした知識を身につけていく。そうしたなかで、企業のある特定の目的のために設計された答えだけをAIから受け取ることが当たり前になれば、私たちは社会における主体性を失ってしまいかねない。
ブラッサードは、AIの仕組みは実際には誰もが学ぶことができるとし、AIを使うすべての人がその仕組みを知る必要があると語る。とりわけ、仕組みを十分に理解しないままAIの利用者となっている子どもたちには、初等・中等教育の早い段階からAIリテラシーを学ぶ機会が必要だという。
AIリテラシーとは、機械学習や大規模言語モデルの技術的な仕組みを知ることだけではない。AIが常に正しい判断を下す万能な存在ではないと理解し、誰がその目的を決め、どのようなデータを使い、私たちの判断や創造性をどう変えつつあるのかを問うことでもある。それは、技術を一方的に受け入れる利用者から、自らの意思で技術との関わり方を選ぶ主体になるための実践でもある。
しかし、技術について学び、個人が賢く使えるようになるだけでは十分ではない。AIの影響を受ける人々が、その目的や利用条件を決める過程に参加できる仕組みも必要になる。今回の議論を通じて見えてきたのは、構造的に不利益を受けている当事者は、単に保護されるべき存在なのではなく、その構造の問題点を見抜き、技術をどのように改善すべきかを考えるうえで重要な知見を持つ主体でもあるということだ。だからこそ、AIの影響を受ける人々が、開発の目的や利用条件を決める意思決定に参加できる仕組みが必要になる。
AI時代に求められる主体性とは、テクノロジーを無条件に受け入れることでも、拒絶することでもない。その仕組みを理解し、誰が利益を得て、誰が負担を負っているのかを問い続けながら、自ら選択する力を取り戻すことではないだろうか。
フェミニズムの視点からAIを考えると、これまでとは異なる景色が見えてくる。より倫理的に技術を活用するとは、どういうことか。私たちはどのような未来の物語を描きたいのか──そうした問いも、フェミニズムの視点から捉え直しすと、これまでとは異なる景色が見えてくるのではないだろうか。
【参考サイト】Why AI Needs Feminism: From Campus Surveillance to Global Conflicts
【参考サイト】The Consentful Project
【参考サイト】Peter-Lucas Jones | TIME
【関連記事】「AIの偏りは、バグではなくデザイン」Justice AI GPT開発者が語る、脱植民地化テクノロジーの可能性
【関連記事】「AIがそう言ったから」で、いいのか。雇用から軍事まで、人を分類する技術と責任の行方──久木田水生氏に聞く
【関連記事】AIの話に疲れてきたのは、未来がAIだけで語られすぎているからかもしれない
Edited by Erika Tomiyama
