ギリシャの民主主義を衆愚政治だと絶望したプラトンは、人知を超えた哲人王を夢見た。そして現代では哲人王ではなく、カリスマ性を持った鉄人王を求める結果、プーチンのような怪物が誕生することになる。

これに対し、市民が熟議を繰り返し、一つの一般意志に到達することを夢見たのがルソーだが、東浩紀さんは2011年、「一般意志2」を書いて、新しい IT 技術を使えばルソーの夢見た一般意志を実現できるのではと大胆な提案をして、若い世代が本当に新しい可能性を示していると感心した。

本日紹介する論文

そして今日紹介するグーグルからの論文は、大規模言語モデルを用いることで民主主義的熟議が可能であることを示し、東さんの夢が可能であることを実際に示した研究で、10月18日 Science に掲載された。

タイトルは「AI can help humans find common ground in democratic deliberation（ AI は民主主義的熟議の共通基盤を見つけることを助けることができる）」だ。

解説と考察

しかしノーベル賞の熱気そのままに、Google の進撃が止まらない。今回は LLM を用いて熟議が可能かを検証しているが、完成したモデルにドイツの社会哲学者で、熟議民主主義を唱えたユルゲン・ハーバーマスの名前をとってハーバーマスマシン (HM) と名付けている点でも知性を感じる。現代最もホットな研究現場の一つだろう。

この研究ではチンチラと名付けた、パラメーターのサイズは小さくても、学習するトークン数が1兆を超えるよう至適化した LLM を用いている。

具体的には6人からなる75グループに、英国が抱える様々な問題について、意見を書いてもらったあと、多数派意見を割り出し、そこからグループの結論をアウトプットして、それに対して批判した意見を再度集め、それを計算して新しいグループ意見をアウトプットすることを HM に行わせている。そして、様々な民主主義の問題について、HM が役立つかどうか検証している。

最初は、同じ意見、批判、それを聞いた意見を聞いたあとで、そのグループの議論の共通基盤を人間にも書いてもらって、HM から出てきた答えと、参加者に評価してもらう実験を行い、グループ全体の意見を反映したまとめを書くという点では HM の方が優れていることを示している。

その上で、意見の調整がある程度できる結果、HM によりグループ内で異なる意見は合っても、分断意識はかなり解消される。

というのも、それぞれの意見をエンコーダーで多次元（768次元）空間としてエンベッディングしたあと、多数意見と少数意見にまず分類し、そのあと批判を聞いたあとでの意見を加えてできた新しいエンベディングを調べると、少数意見が尊重され、専制主義に陥っていないことがわかる。

そして、HM を200人の参加者による議論の場で利用してもらうことで、議論の基盤をそれぞれが理解し、よりまとまった意見に集約できることを示している。

実際に示されたデータを正確に評価する能力は持ち合わせていないので、著者らの結論をそのまま紹介したが、東浩紀が「一般意志2」で期待していたことが、可能になっている実感がある。今回は小さなグループについて意見調整するという形の使用だったが、モデルの能力を考えると、スケールアップは問題ないように思える。

さらに感心したのは、科学のように単純に多数決ではない手続きでコンセンサスをとる方法と、HM は全くことなる点をわかっている点で、今後科学的判断も尊重する熟議モデルが形成されると期待できる。

いずれにせよ、またGoogleから今の社会に一石が投じられた。