最初にお断りをしておきたい。この原稿は、毎月１日に発行される雑誌に掲載するため２週間程度前に執筆している。そのため今回のように直近で状況が目まぐるしく動いているテーマについては古い情報が混じってしまうことをご容赦いただきたい。

　AIの能力向上がすさまじいスピードで進んでいるようだ。

　9月12日、AI開発大手の米国アンソロピック社CEOのダリオ・アモデイ氏は自身のブログで、「最先端AIの開発を減速しなければならない」というメッセージを発信した。AIの能力が安全性を上回るスピードで向上していて、このまま突き進んでしまうとAIシステムを制御できなくなる危険性がある、ということらしい。そして現在の状態を放置すれば、サイバー攻撃やテロにAIが悪用され、こうした事態が社会に大混乱をもたらすリスクを指摘している。

「We Must Pace the Frontier」と題したそのブログエントリーを読んでみた（翻訳で）。理解が適切かどうかは自信がないが、こういうことだ。

「人間がAIの性能を高めている間はコントロールも効いてよかったのだけど、それが進んだ挙げ句、直近ではAI自身がAIの性能を高めるようになってしまった。こうなるとAIは加速度的に進化していき、進化の無限ループをたどってしまい、人間が制御することができなくなってしまう。AIは人間とは違って倫理観も道徳心も良心も恐怖心も責任感もないから、その先に待っているのは、人類にとっての悲劇である可能性が高い。もちろん適切に制御できれば、AIは人間にさまざまな便益をもたらしてくれる存在である。したがってこうした観点から、AI開発企業、国家、そして可能であるならば世界は、適切な規制とルール作りをすることが早急に求められる」

　アモデイ氏が恐れる「人類の危機」、映画ではこうしたストーリーは定番である。どこからかやってきたか、どこからか生まれてきた人類の敵対者、これが制御しきれないくらい強くなり巨悪となって人類に襲い掛かる。ただ映画の場合は善良な人たちの英知と勇気によって危機を脱してハッピーエンドというのがパターンだ。もちろん映画と違ってこんなことが現実に起これば、AIに打ち勝つことは難しいだろう。

　さて、アモデイ氏が率いるアンソロピック社は近く上場が予定されている企業であり、開発スピードを緩めましょうなどという情報発信は経済的にはネガティブな話で、企業価値を毀損しかねない。そんなデリケートな状況下での、世界最先端のAI開発の現場のリーダーからの発言は重い。

　さっそくこれに呼応して、ライバルである米国オープンAIのサム・アルトマンCEOも、賛同の意見を発信している。ではこの2社が協調体制を取ることで、他のAI開発企業も歩調を合わせることができるのだろうか。あるいは国（米国）も両者の考えを支援する。さらに、他の国（中国）の企業や国家もこのアイデアに追随する、なんてことが起こるのだろうか。

　残念ながらそれは夢物語になりそうだ。

　さっそくこの件に関して、トランプ大統領がアモデイ氏に噛みついてきた。強く賢い大統領がAIをコントロールするから問題ない、ということだそうだ。米国の経済成長を早く実現させ、国民にそれを実感してもらうことでみずからのポジションを強固にしたい立場からすれば、余計なことを言うなってことだろう。
AI開発企業のトップからも異論が出ている。メタのマーク・ザッカーバーグCEOも、企業ごとの自主的な判断や市場メカニズムに委ねるべきだとし、アモディ氏の意見に反対している。AI開発企業としては〝周回遅れ〞の感のある同社の立場からは、各社が協調したのでは自社が追いつくチャンスがなくなってしまう、ということなのかも知れない。

　アモデイ氏の意見が正しいか否かはわたしにはわからないし、ここでの主題ではない。

　人の意見は立場によって形成されるという現実、これが主題なのだ。「事実か否か」「正しいか正しくないか」からではなく、置かれた立場から決められるのが現実であるということだ。トランプ大統領にとってみれば、米国が中国に対して経済的優位に立つという観点から意見は組み立てられているし、ザッカーバーグ氏からすればメタ社のAI劣勢を覆さねばという観点から意見は形成されている。純粋にAIのリスクを評価していないのである。同じ目線から物事を観察していなければ、本質的な議論は成立しないし、当然ながら合意形成は難しい。

　そんなこんなで、この問題はさまざまな思惑の中で、合意形成どころか利害調整も難しく、それぞれの立場から、勝手な解釈と行動が取られていくことになるのだろう。その先はどうなるのかは、神のみぞ知るところだ。

　2001年のアメリカの同時多発テロ事件、2008年から始まったリーマンショック、2020年からの新型コロナウイルス（COVID-19）の世界的大流行といったように、21世紀に入って以降、世界を揺るがす大事件が定期的に起こっている。次なる大事件はもしかすると、AIがらみなのかも知れない。アモデイ氏の予言が外れ、適切なAI活用が人びとを幸せに導いてくれるとよいのだが、さまざまな利害の対立はむしろ世界的に激化しているし、いやな感じではあるなあ。

（その後、トランプ大統領により関係者が集められ、いったんの落としどころが調整されたようである。もちろん、状況はまだまだ流動的だ。）

株式会社鎌倉新書
代表取締役会長CEO　清水祐孝

画像素材：PIXTA