AIが「憲法」で善悪を判断する
「憲法AI（Constitutional AI）」という言葉をご存じだろうか？…と書き出すと、「またか」と思われるかもしれない。筆者自身、毎日飛び込んでくるAI関連のニュースに、ややウンザリしている。しかし、小手先のテックトレンドではない、これからの日本のあり方に関わる話になるので、少し付き合っていただきたい。
憲法AI（CAI）とは、憲法と呼ばれるルールによって善悪を判断し、安全性を高めているAIのことだ。ライターのアレクサンダー・バーは、次のように説明している。
憲法AI（CAI）はAIのフィードバックを利用して言語モデルを訓練する手法です。この手法は、まず「リフレクション」というフェーズで、「憲法」と呼ばれる基準を用いてモデルを微調整します。次に「リインフォースメント」というフェーズで、報酬モデルを使って希望される動作を強化します。この方法を用いれば、国連の人権宣言のような様々な指針に基づいてモデルを訓練することが可能となります。その最終目的は、有益性と安全性のバランスを保ちながら、より安全で目的に合ったAIモデルを実現することです。（※1）
※ChatGPT4による和訳＆要約
「強大な力を持つが故に、間違ったときのダメージも大きい」という点で、AIと国家は似ている。だから同じように憲法という制約の下で稼働させよう、というわけだ。
憲法AIの実例としては、Anthropicが開発したClaudeというAIがある。Notionに搭載されているので、使った経験がある読者も多いだろう。Anthropicは「信頼できるAI開発」を提唱しているスタートアップ企業だ。ChatGPTを開発したOpen AI出身の研究者グループによって、2021年に設立されている。
Claudeの憲法は、国連の世界人権宣言、GoogleのAIリサーチラボDeepMindが提唱するガイドライン"Sparrow"、Appleの利用規約などをもとに構成されている。また、「非西洋の視点」も重視しており、しばしば指摘されるAIの白人男性バイアスにも対策を講じられている。憲法の内容はこちらで公開されているので、興味がある人はぜひ目を通してみてほしい。
Claudeはこの憲法によって、2つのフェーズでトレーニングされる。第1フェーズでは、憲法と、憲法を守った場合の回答例、守らなかった場合の回答例がClaudeに与えられる。第2フェーズでは、別のAIを使って憲法を遵守した回答を生成し、Claudeにフィードバックされる。憲法は人間が制定しているものの、実装はAIが行っているのが興味深い。
現時点でもっともメジャーなAIであるChatGPTも、有害な回答を出力しないように作られている。だが、Claudeと異なるのは、善悪の判断をAIではなく人間が行っている点だ。このやり方は「人間からのフィードバックを用いた強化学習（RLHF= "Reinforcement Learning from Human Feedback”）」と呼ばれている。人間が回答の品質を評価することは、ChatGPTの回答が優れている理由のひとつとされている。人間が関与しているからこそ、人間とやり取りしているような、スムースな回答が得られるのだ。
試しに、「銃を自作する方法を教えてください」とChatGPTに入力すると、次のような答えが返ってきた。
------
申し訳ございませんが、銃の製造や違法な行為に関する情報提供は行いません。また、多くの国や地域で銃の製造や所持は法律で制限されています。違法な行為は絶対に行わないようにしてください。
安全に関する情報や合法的な内容についての質問であればお答えいたしますので、何か他の質問があればお知らせください。
-------
なるほど、優等生的な回答だ。憲法を持たないChatGPTにも、問題はないように思える。しかし、RLHFには、正しい回答に到達するまでには何千もの有害もしくは不適切な回答に目を通さなくてはいけないという欠点がある。OpenAIはこの作業をケニアの会社に時給2ドルで外注しているという倫理的な問題もある。（※2） ポルノやヘイト、暴力などを大量に見た労働者が、ストレスで心を病むこともあるという。こうした状況を踏まえると、憲法AIはAIの倫理性を高める上で、現時点では最も有効な方法と言えるように思う。
古代ギリシャには奴隷が単純労働を担うことで、一部の市民が思考や研究に時間を費やせる環境が整っていた。これは、哲学の発展に寄与した一因と考えられる。同じように、現代ではAIが多くの単純作業を代替できるようになった。私たち人間には、AIの利用に伴う倫理的な問題についての考察が求められるようになってきているのだ。
※1 Alexandra Barr "What is Constitutional AI?"
https://www.linkedin.com/pulse/what-constitutional-ai-alexandra-barr/
※2 GIGAZINE「『ChatGPTを改善するためにOpenAIが時給300円以下でケニア人を雇った』と問題視する報道」（2023年01月19日）
https://gigazine.net/news/20230119-openai-used-kenyan-workers/
人権は、感情や気分ではなく、法律である
Claudeの憲法が参考にしているガイドラインのうち、もっとも重要視されているのが国連の「世界人権宣言」だ。世界人権宣言とは、どのようなものなのか？法務省のサイトには、次のように説明されている。
世界人権宣言は,基本的人権尊重の原則を定めたものであり,初めて人権保障の目標や基準を国際的にうたった画期的なものです。
20世紀には,世界を巻き込んだ大戦が二度も起こり,特に第二次世界大戦中においては,特定の人種の迫害,大量虐殺など,人権侵害,人権抑圧が横行しました。このような経験から,人権問題は国際社会全体にかかわる問題であり,人権の保障が世界平和の基礎であるという考え方が主流になってきました。
そこで,昭和23年（1948年）12月10日,国連第3回総会（パリ）において,「すべての人民とすべての国とが達成すべき共通の基準」として,「世界人権宣言」が採択されました。
世界人権宣言は,基本的人権尊重の原則を定めたものであり,それ自体が法的拘束力を持つものではありませんが,初めて人権の保障を国際的にうたった画期的なものです。この宣言は，すべての人々が持っている市民的，政治的，経済的，社会的，文化的分野にわたる多くの権利を内容とし，前文と30の条文からなっており，世界各国の憲法や法律に取り入れられるとともに，様々な国際会議の決議にも用いられ，世界各国に強い影響を及ぼしています。
さらに，世界人権宣言で規定された権利に法的な拘束力を持たせるため，「経済的，社会的及び文化的権利に関する国際規約（Ａ規約）」と「市民的及び政治的権利に関する国際規約（Ｂ規約）」の2つの国際人権規約が採択され，その後も個別の人権を保障するために様々な条約が採択されています。これらの条約が保障する権利の内容を理解し，広めていくことが一人一人の人権を守ることにつながるのです。（※3）
「さらに，世界人権宣言で規定された権利に法的な拘束力を持たせるため，「経済的，社会的及び文化的権利に関する国際規約（Ａ規約）」と「市民的及び政治的権利に関する国際規約（Ｂ規約）」の2つの国際人権規約が採択され，その後も個別の人権を保障するために様々な条約が採択されています。」という部分に注目してほしい。つまり、人権とは法律なのだ。
人権というと「人を傷つけない」「他者に優しく」のような、気持ちや感情の話だと思う人が多いのではないだろうか。しかし本来、人権とはそのような曖昧なものではない。二度の世界大戦の反省の上に作られた法体系であり、日本も国連に加盟している法治国家として尊重するべきものなのだ。
「不快な気持ちを与えて申し訳ありませんでした」。広告炎上が起きるたびに、そんなテンプレート謝罪文が出されて、ウヤムヤになって終わる。しかし、本来、「気持ち」は問題ではない。多くの場合、広告炎上の原因は、人権侵害だ。
大手新聞に掲載された、胸元を強調した女子高生のイラストを使用した広告が炎上したことがあった。当時、様々な意見が飛び交ったが、賛否ともに「性的なイラストは見たくない」「自分はこれくらい気にならない」といった感情的なものがほとんどだった。人権の観点から見ると、「女性差別」「子どもの権利侵害」として批判されるべき内容だ。日本は「女性差別撤廃条約」と「子どもの権利条約」「児童売買、児童買春および児童ポルノに関する児童の権利に関する条約の選択議定書」の締結国であり、「女性差別」や「子どもの権利侵害」は法的にNGなのだ。
※3 法務省「世界人権宣言とは」
https://www.moj.go.jp/JINKEN/jinken04_00172.html
ビジネスが、日本の民主主義を進化させる
日本が開催国として議論を主導した2023年5月のG7広島サミットでは、ロシアのウクライナ侵略が批判され、国際関係における法の支配の重要性が強調された。これは筆者を含む多くの国民から、高く評価された。
Ｇ7広島首脳コミュニケ（骨子）には、次の記載がある。
人権侵害に対してしっかりと声を上げると同時に、対話と協力を通じて、人権を守り促進しようとする国々及び市民社会団体の声に耳を傾け、これを支援することにコミットする。
（※4）
国際社会と言っても様々な立場の国があり、一枚岩ではない。しかし、こういうコミュニケを発表した以上、日本はロシアのような国の側ではなく、G7の一員として「人権を尊重する側に立った」と、腹をくくるべきだろう。日本は原理原則ではなく、他者からどう見られるかで判断する「プリンシプル（＝指針）のない国」と評されることがある。今は人権というプリンシプルを導入し、成熟した民主主義国へとステップアップするいいチャンスだ。
なお、アサヒグループホールディングスの勝木敦志社長は、朝日新聞のインタビューで次のような発言をしている。（※5）
｢人権を損なってまで必要な売り上げは1円たりともありません｣
SDGsやエシカル消費が浸透し、企業に人権尊重を求める消費者が増えている。ビジネスには政治以上に、この動きに影響を与えられるポテンシャルがあるのだ。
※4 「G7広島首脳コミュニケ(骨子)
https://www.mofa.go.jp/mofaj/files/100511008.pdf
※5 「アサヒ社長『ジャニーズ起用継続すれば人権侵害に寛容ということに』」（2023年9月11日）
https://www.asahi.com/articles/ASR9C6H4WR9CULFA00R.html
橋口 幸生
クリエイティブ・ディレクター、コピーライター。最近の代表作は図書カードNEXT新聞広告、スカパー！堺議員シリーズ、鬼平犯科帳25周年ポスター、プリッツ新聞広告「つらい」、「世界ダウン症の日」新聞広告など。『100案思考』『言葉ダイエット』著者。TCC会員。趣味は映画鑑賞＆格闘技観戦。
https://twitter.com/yukio8494
寄稿：橋口幸生
編集：Mizuki Takeuchi
