AI革命は過小評価されている？

AIの進化についてエリックシュミット氏が語っている動画が面白かったのでその内容を紹介します。

自分自身の実感としても仕事の進め方が変わってきているなと感じています。

以下、動画の内容の要約です。

### 非人間的知能の登場とその重要性

エリック・シュミットは、AIの進化、とくに2016年にAlphaGoが囲碁界に新しい手を生み出した出来事を、「革命の始まり」と位置付ける。この出来事により、AIが人類がこれまで考えたことのない発想を生み出せることが明らかになった。

### 現在のAIブームと過小評価

チャットGPTなどの言語モデルが広く知られるようになった昨今、それでもなおAIは実力に比して過小評価されているとシュミットは語る。強化学習の分野の進展によって、AIが計画や戦略を扱えるようになっている。将来的にはビジネスシステム全体がAIエージェントによって自動運用されると予測している。

### AI発展の限界とその課題

AIの開発には大量の電力、計算資源とデータが必要になる。米国では90ギガワット（90基の原発相当）の電力がさらに必要になるという予測もある。また、AIが新しい知識を「発明」する能力には限界があるとし、人間のように異なる分野を結びつけた創造性が乏しいことも課題である。

### 自律型エージェントとリスク管理

Yoshua Bengioの提言に対して、完全に開発を停止するのは現実的でなく、代わりに厳格な監視と制御—エージェントの行動観察と「緊急停止（unplug）」のポイントの明確化—が必要だと述べている。特に、自己改善を繰り返すAIや兵器システムへのアクセスは危険だとしている。

### デュアルユースの倫理的ジレンマ

AI技術は軍民両用であり、この点において倫理的な課題が多数存在する。例えば、米軍では「人間の関与（Human in the loop）」を原則としており、AIの完全自律化は避けるべきだという立場である。米中の対立は激化しており、AIのオープンソース化が多くの国に波及する可能性がある一方で、安全保障上の脅威にもなり得る。

### オープンソースAIのジレンマ

オープンソースは技術進展に寄与するが、悪意ある勢力に高度な技術が渡る危険性もある。現在のところ、オープンソースモデルはまだ致命的ではないが、将来的にはリスクが高まると警戒している。

### 想像される超知能競争と国家間緊張

AIによる「ネットワーク効果」により、一度先行した国が圧倒的優位に立つと予想され、他国がキャッチアップできなくなるリスクがある。そのため先に到達する側への不信、そして最悪の場合、物理的破壊（例：データセンターへの攻撃）といった「先制行動」にさえつながる可能性があると警告している。

### プライバシーと監視のバランス

AIの安全性を担保するために、証明可能な「人間性」や本人確認が求められる一方、それが監視国家に繋がる危険性もある。ゼロ知識証明などの技術を用いれば、個人情報を保持せずに本人確認ができ、人権と安全のバランスを取ることが可能だと述べた。

### 夢と希望の未来：AIによる社会変革

AIにより、

- すべての人が母国語で学べるパーソナルチューターを持つこと

- 村の医者や看護師を支援するヘルスケアAIの実現

- 難病の治療法開発や臨床試験のコスト削減

- ダークエネルギーなどの科学的未解明分野の進展