私たちの指先から生まれる問いに、AIは流暢な言葉でよどみなく答える。その知識は普遍的で、「中立的」だと、私たちはどこかで信じてはいないだろうか。

だが、AIが参照する膨大な知識は、一体「誰の」知識なのか。もしその多くが、欧米の価値観や歴史観に基づき、他の文化や人々の経験が「学習データ」に含まれていないとしたら──AIは悪意なく、数えきれないほどの物語を歴史上から消し去ってしまうかもしれない。

これは、テクノロジーと脱植民地化を専門とする社会科学者、クリスチャン・オルティス氏が鳴らす警鐘だ。

「AIのバイアスは、バグ（欠陥）ではありません。それはデザインなのです」

彼が開発した「Justice AI GPT」は、この根深い偏りに正面から挑む。それは、単に間違った情報を正すツールではない。AIによって抹殺された知（エピステミサイド）を現代に呼び戻し、私たちに理解できる言葉で語り直す、いわば「失われた声を取り戻す翻訳機」のようなものだ。

これは、AIをよりバランスの取れた公正な視点から作り直そうという壮大な試みでもある。Justice AI GPTの開発者である、クリスチャン・オルティス氏に取材した。

「バグではない、デザインだ」AIに潜む“知の抹殺”

私たちが日常的に使うAIの答えがいかに偏っているか、その根深さをオルティス氏が痛感したのは2022年のこと。一般公開前のChatGPTのベータテストに参加したときのことだった。

「私は、世界の社会正義を求める運動や、古くから伝わる祖先の知識体系、そして黒人、先住民、アジア系、クィアの人々の生きた経験について、AIが何を知っているかを試すために質問をしました」

しかし、返ってきた答えは、彼の期待を裏切るものだった。

「得られた答えはフィルターがかかったように曖昧で、不完全であることにすぐ気がつきました。ほぼすべての回答が西洋中心的、あるいは入植者植民地主義的な視点を反映しているのに対し、アフロ先住民の系譜を持つ私が拠り所としてきた知識体系は、そこから全く抜け落ちていたのです。この状況は、単なる情報の欠落ではありません。私が目の当たりにしたのは、特定の知識体系が意図的に破壊され、価値を否定され、消されていく『エピステミサイド（知の抹殺）』という深刻な事態でした」

そしてこれは、偶然の産物ではないと彼は断言する。

「文化、アイデンティティ、歴史が丸ごと組織的に排除されているとき、私たちはそれを『偶然』と呼ぶのをやめなければなりません。機械学習とAIの世界では、『存在しないこと』は『存在すること』と同じくらい強力な意味を持つのです」

彼のこの言葉は、AI開発における根深い問題を鋭く指摘している。北米やヨーロッパで開発されたAIは、その地の価値観や歴史観を色濃く反映したデータを学習する。その結果、それ以外の地域の膨大な知恵や経験は、そもそもデータとして存在しない、つまり「翻訳」されるべき原文自体がない状態に置かれる。

この構造こそが、オルティス氏が指摘する「デザインされたバイアス」の正体だ。それは、気づかぬうちに私たちの世界観を狭め、特定の視点を普遍的な真実であるかのように誤認させる暴力性を秘めている。

取材はオンラインで行われた。

失われた声を集める 世界初の「脱植民地化データセット」

こうした課題に、どう立ち向かうのか。現在、多くの企業がAIのバイアスを軽減しようと、アルゴリズムの見直しや倫理委員会の設置など、さまざまな取り組みを進めている。しかし、そうした多くの試みは、既存の仕組みに小さな修正を加える対処療法にとどまり、根本的な偏りの構造までは変えられていないと、オルティス氏は指摘する。

彼が選んだのは、もっとラディカルで、しかし誠実な道。それは、失われた声そのものを集め、新しい知識の基盤をゼロから構築することだった。

「このバイアスの問題を解決するために、私は世界中の560人以上の脱植民地化の専門家と協力しました。彼らはそれぞれ、自身の専門分野で30年以上にわたる脱植民地化システムの知識を提供してくれました」

ここで言う「専門家」とは、アフリカ離散民、先住民の知識の守り手、ラテンアメリカやアジアの人々をはじめとするグローバルマジョリティ・コミュニティ、LGBTQIA+、女性、ニューロダイバージェント、障害のある人々など、これまでAI開発の中心から排除されてきた当事者たち自身。彼らの生きた経験と抵抗の歴史こそが、AIの偏りを解体するカギとなる。こうして、人々の知恵の集合体ともいえる、世界初の「脱植民地化データセット」が生まれた。現在、その協力者の輪は650人以上にまで広がっている。

そのプロセスは、単なるデータ収集ではなかった。人々の生きた経験と知恵という、極めて繊細で個人的な知識を預かる上で、何よりも信頼関係の構築が不可欠だった。オルティス氏は毎週のように専門家たちとミーティングを重ね、日々関係構築を怠らない。

「私は『こういうものを作っています。あなたの情報は、これに貢献することになります。しかし、私があなたのIP（知的財産）でデータをどう保護し、このツールを世界に提供しているかも理解してほしいのです』と、人々と対話を重ねました」

データ主権を守り、提供者の知見に最大限の敬意を払う。この倫理的な基盤の上に、Justice AI GPTの「翻訳機」としての性能は成り立っている。それは、アフリカ離散民、先住民の知識の守り手、ラテンアメリカ、アジアの人々の「生きた現実の集合体」なのだ。

バイアスを翻訳する「DIAフレームワーク」

この独自のデータセットを搭載し、AIの応答をリアルタイムで変革する心臓部が「Decolonial Intelligence Algorithmic Framework（脱植民地的知能アルゴリズム・フレームワーク）」と呼ばれるものだ。その仕組みは独創的だ。Justice AI GPTは、バイアスも多いChatGPTのデータセットをあえて利用する。そして、ユーザーからの問いに対し、まずバイアスのある答えを生成させる。ここからが「翻訳」のプロセスである。

第一に、脱植民地化データセットがその答えに含まれる西洋中心的な偏見を「特定（Detect）」する。次に、そのバイアスを構成する歴史的、構造的な文脈を「解体（Dismantle）」する。最後に、より公平で多角的な視点から答えを「再構築（Assemble）」し、ユーザーに提示する。

オルティス氏が挙げる「なぜアフリカは貧しいのか？」という問いへの応答は、その好例である。一般的なAIが経済指標や統治の問題を羅列するかもしれないのに対し、Justice AI GPTは問いの前提そのものを覆す。

「Justice AI GPTはこう言います。『アフリカは貧しくありません。実際には世界で最も豊かな大陸の一つです。ただ、貧しくされるように搾取されてきたのです』と。最初から植民地主義的なバイアスの構造を特定するのです」

これは、単語を置き換えるような表層的な翻訳ではない。ある視点から見れば「貧困」としか見えない事象を、歴史と権力構造という別の文法で読み解き、「搾取の結果」という全く異なる意味を持つ文章へと翻訳し直す、高度な知的作業だ。この翻訳プロセスを通じて、私たちはAIから答えを得るだけでなく、自らの思考の偏りを自覚させられるのである。

「これは私の特権だ」──AIを社会と対話させる架け橋へ

オルティス氏が見据える未来では、AIは単なる便利な道具ではない。それは、分断された社会をつなぎ、対話を生み出すためのインフラだ。

「私の目標は、世界中で100万人のユーザーにJustice AI GPTを使ってもらうことです。個人だけでなく、企業のHR部門や医療、教育現場に導入すること。想像してみてください。私たち全員がグローバルな視点で考えるのを助けてくれる、文化的に適切なAIシステムを手にする可能性を。それは、私たちが互いの文化をより深く理解するための、強力な架け橋になるはずです」

彼にとって、この活動は未来の世代への責任でもあり、彼自身のルーツと深く結びついている。

「私のルーツの一つは、アフロ・インディジェナス（アフリカ系先住民）にあります。彼らは、植民地化の過程で多くの命を奪われ、さらにはその存在や文化、歴史までもが意図的に消し去られようとしてきた人々です。しかし同時に、私はその植民者であったスペイン人の血も引いているのです」

抑圧された者と、抑圧した者。その両方の歴史を内に抱える彼にとって、AIが繰り返す歴史の過ちは、決して看過できない個人的な痛みでもあったのだ。そして、彼は自身の「立場」を冷静に見つめている。そして、それを「特権」という言葉で、明確に定義する。

「私はここ北米、特にカナダにいることで多くの特権を持っています。おそらく、他の女性や黒人女性、アジア系の女性ができないような方法で、不正義について語ることができます。私は、私たち全員が世界中で抱えている問題について、真に代弁する声でありたいのです」

彼にとって特権とは、単に恵まれた状況を享受することではない。それは、声を上げたくても上げられない人々のために、その声となり、行動を起こすための「力」であり、果たさなければならない「責任」なのだ。

「私を突き動かしているのは、真の変化をもたらすために、自分の特権を最大限に活用する責任と力を持っているという自覚です」

Justice AI GPTが試みる「翻訳」は、テクノロジーの領域に留まらない。それは、これまで一方的に語られてきた歴史を、複数の声が響き合う物語へと翻訳し直す試みだ。AIに埋め込まれた社会の無意識を、意識的な対話のテーブルへと引きずり出す試みでもある。

「AIを脱植民地化することが、今、全てです」

オルティス氏のこの言葉は、私たち一人ひとりに問いかけている。あなたは、その手の中にあるAIが話す言葉を、誰の声だと信じているのか。そして、そこに聞こえない声があることに、耳を澄まそうとしているだろうか。

編集後記

AIという鏡は、私たちの社会の醜い部分も容赦なく映し出す。しかしJustice AI GPTの挑戦は、その鏡が、私たち自身をより良い方向へと導き、分断ではなく対話を生み出すためのツールになりうることを教えてくれている。

開発者オルティス氏が語った「自分の特権を最大限に活用し、真の変化をもたらす責任がある」という言葉は、私たちメディアに関わる者、そして社会の一員として生きるすべての人に重い問いを投げかける。AIを脱植民地化するプロセスは始まったばかりであり、それはテクノロジーをハックし、社会を、そして何より私たち自身の思考をアップデートしていく試みでもあるように思う。

この記事が人々にとって、手元のスマートフォンに映る世界の「当たり前」を、少しだけ違う角度から見つめ直すきっかけとなることを願う。

【参照サイト】Justice AI GPT