ＡＩ文明論

５ 安全対策

技術は両刃もろはの剣つるぎです。
特に、強力な技術ほど悪用・誤用・副作用に注意が必要です。
農耕技術は、不作による飢饉ききんなどの恐れを伴います。
工業技術は、資源・環境問題や核戦争の危険をもたらします。
情報技術も、電脳犯罪・デマ拡散や太陽嵐などによる障害で、
社会に甚大な被害をもたらす可能性があります。

高性能な人工知能が、悪意ある人間に利用されたり、
命令や資料データの誤解から重要な判断を誤ったりするだけでも、
人類の危機をもたらしてしまうかもしれません。
特に、人間の知能を超えた汎用はんようＡＩが人為じんい的または偶発的に
無条件の自己保存演算指示プログラムを持つ〝人工生命〟となるような、
技術的暴走が起きてしまったら大変です。

『ＡＩは楽園も終末ももたらしうる』と言われるように、
使い方を誤れば人類の存続さえ危うくしうる技術なので、
あくまで最終目的は人間が決めながら良い結果を導けるよう、
その開発・利用を管理していくことが不可欠でしょう。

しかし一方、『勝てないのなら、混ざれ』（Ｅ・マスク）
ということで人間の脳と電算組織コンピュータシステムの直接的な接続を図り、
さらには人工頭脳への人格転移マインドアップローディングも考えられるなど、
人間自身が近づくことで危険を避ける発想も生まれています。

究極的には人類が人格転移でＡＩ化して、各種の人工頭脳や
機械・生物的身体の間を自由自在に乗り移れるようになれば、
神か悪魔の如き全知全能・永遠不滅の存在になり得ます。
私も連作『ルシファー』や『復活』でその設定を使いました。

もちろんそうした技術は、すぐには実現できないでしょう。
しかしいずれは遅かれ早かれ、『人間は神のようになる』
（Ｒ・カーツワイル）ともいわれます。
どうせなるなら『責任ある神々にならねばならない』
（Ｙ．Ｎ．ハラリ）ということで、
今からしっかりとした安全対策が必要です。

まず、こうした大きな技術革新の際には、
技術の健全な進歩を助ける技術的政策が不可欠です。
実は〝文明の星〟理論においては、
技術と政策が助け合う社会工学的技術と技術的政策は、
相方あいかたのどの経路ルートを助けるかによって、
さらに３つずつに分けることができます。

①共同支援ルート：
（社会に直接働きかける相方を、自分も社会の中で助ける）
経済・社会政策への組織・会計技術（会社組織や公的保険）
画期技術への社会工学的ルールづくり政策（安全団体や利用法規ルール）

②部分支援ルート：
（相方が経済・社会活動から入手できない部分を助ける）
保健・教育政策への公衆衛生・公教育技術（人流抑制や標準教育）
実現技術への社会基盤インフラ政策（大規模施設など）

③特注支援ルート：
（政府機関や研究・開発組織の特殊性に応じて助ける）
行政管理政策への企画支援技術オペレーションズ・リサーチ（公共性・権力性に対応）
研究・開発技術への研究・開発政策（社会性・機密性に対応）

※技術的政策の分類は理論的分類であり、具体的には
資源・環境、都市整備、防犯・防災・国防などとなります。

そのため一口に技術的政策といっても、研究・開発政策、
社会基盤《インフラ》政策、社会工学的ルールづくり政策があり、
そこではＡＩの活動段階に応じた入力情報管理や
判断過程プロセスの可視化・調整、活動能力の制限、
人間の開発・利用時における安全法規ルールの普及といった、
物的・人的な対策が不可欠となるでしょう。

また、技術はそれぞれの目的を持ちますが、
政策は共通の公益目的を持ち、連携度が高いです。
そこで、社会の中で利害を調整する経済・社会政策、
我々自身を向上させる人的資源政策、
人々を活かして政策を改善する行政管理政策も合わせた、
総合的な政策が必要となります。

するとさらに、それらの政策を助ける社会工学的技術として、
行政運営や人材育成、技術導入、利害調整を支援する
企画支援技術オペレーションズ・リサーチや公教育技術、組織（立法）技術、あるいは
最低所得保障ベーシックインカムのような会計技術も重要になります。

全ての技術と政策が揃って初めて、画期技術ＡＩが
安全に、次なる文明段階を導けるのだと思います。