原題は ”Spirals of Delusion”
How AI Distorts Decision-Making and Makes Dictators More Dangerous
この論考は面白過ぎるのでぜひ一読を勧めたい。
イントロの３段落を示すと、
『人工知能に関する議論は常に、技術の覇権をめぐる中国と米国の対決をめぐるものになる。重要なリソースがデータである場合、10 億人を超える市民を抱え、国家の監視に対する保護が緩い中国が勝つ運命にあるようだ。有名なコンピューター科学者であるカイフー・リーは、データは新しい石油であり、中国は新しい OPEC であると主張している。しかし、優れたテクノロジーが優位性を提供するものであるとすれば、世界一の大学制度と高度な労働力を備えた米国には、依然として優位に立つチャンスがある。どちらの国でも、専門家は、AI の優位性がより広範な経済的および軍事的優位性に自然につながると想定している。
しかし、覇権競争という観点からAIを考えること は、AI が世界の政治を変えるるより根本的な方法を見落としている。AI は対抗相手への競争を変えるのではなく、ラ自陣営を変える。米国は民主主義国家で、中国は独裁政権であるが、機械学習はそれぞれの政治体制に独自の方法で挑戦する。
米国などの民主主義国家への挑戦はあまりにも目に見えている。機械学習は二極化を促進する可能性があります。つまり、オンラインの世界を通じて政治的分裂を促進する可能性がある。確実にデマが増え、説得力のある偽のスピーチが大規模に生成される。独裁政権への挑戦はより微妙だが、おそらくより腐食性がある。機械学習が民主主義の分裂を反映し強化するのと同じように、独裁政治を混乱させ、コンセンサスの誤った外観を作り出し、根底にある社会の亀裂を手遅れになるまで隠してしまう可能性がある。』
これから気鋭の学者３人が議論を展開するのであるが、結論部分は以下だ。
『広範な国際的な規制原則を作成することは、AI の政治的リスクに関する知識を広めるのに役立つ可能性がある。この協力的なアプローチは、米中の競争が激化している状況では奇妙に思えるかもしれないが、慎重に調整された政策は、米国と同盟国に役立つかもしれない. 危険な道の 1 つは、米国が AI の優位性をめぐる競争に巻き込まれることだ。これにより、競争関係がさらに拡大します。もう1つは、権威主義の不健全なフィードバック問題を悪化させようとすることだ。どちらも大惨事と戦争の危険がある。したがって、すべての政府が AI の共有リスクを認識し、協力してそれらを軽減する方がはるかに安全だ。』
FOREIGN AFFAIRSはタダでかなり読めるし日本語翻訳ソフトも使える。
この論考で寂しいのは日本の存在感が皆無なことだ。
（2022年9月3日 土曜日）