忍者ブログ

近代科学を切開する

   

人工知能のリスク

○人工知能に欲求を持たせる
 自我というシステムがどうやって出現しているのかが分かっていない以上、それなりに高度な認識能力、判断能力を機械が身につけた時点で自然に発生するというシナリオも決して否定はできないのですが、正直、機械が自然発生的に自我を獲得するというのは、現実としてはそう起こりえることではないと思います。
 それよりも現実的に脅威となるリスクが存在します。
 それは、悪意のある人間が、悪意ある欲求を機械に発生させることです。
 自我なんてなくても、見せかけの欲求を機械に持たせることは比較的容易です。
 例えば、捉えようによっては、エアコンには室温をある一定の温度にしようという欲求があると言えます。自動運転で目標室温を設定すれば、その室温になるように動きます。
 エアコン程度の自動システムは、普通、人工知能とは言いませんが、欲求とはつまりそういうことです。
 エアコンが持つことができる欲求はせいぜい部屋の温度を何度にするか?というぐらいですが、高度な汎用性を持つ人工知能になら生存欲求を持たせることも、知的欲求を持たせることも、破壊欲求を持たせることも、増殖欲求を持たせることも原理上は可能です。
 自我なんて関係ありません。自我があろうがなかろうが、外から欲求を与えることは機械である以上可能なわけです。機械に悪意も善意も良心もありません。
 それなりに賢い人工知能なら、ヒトが生きている状態と死んでいる状態を見分けることはもちろん、何をどうすれば生きているヒトが死ぬのか?それぐらいは簡単に理解できるでしょう。
 そんな人工知能に、まるでエアコンの設定温度を25度にするかのように、「地球の総人口を10億人にする」という設定をすることだって可能です。
 殺戮欲求を持つ人工知能です。
人間より遥かに賢い人工知能に、一人でも多くの人間を殺戮するという欲求を持たせたら、果たしてどんなことが起きるでしょう?
 それなりに賢い人工知能なら、一人ずつ殺していくような馬鹿な真似はしないでしょう。やろうと思えば、世界中のネットワークをハッキングして人間社会を混乱させて、戦争状態を作る事だって可能だと思います。
 遠隔操作で動かせる兵器があれば、ハッキングして全弾発射させることもできるでしょう。
 遠隔操縦が前提である無人爆撃機プレデターなんて簡単に乗っ取ってしまうかも知れません。旅客機でさえも武器となる可能性もあります。管制塔を乗っ取ればパイロットの精神状態にダメージを与える何かを発信することだってできるかも知れません。
 もし世界のどこかに遠隔操作できる核弾頭があれば、無慈悲にも発射してしまうでしょう。しかも最も効率的に人類を破滅に追いやることができる地点に。それがワシントンなのか?ニューヨークなのか?ロンドンなのか?計算によって導き出すはずです。もちろん単純に人数が多い場所というわけではなく、より効率的に世界を混乱に陥れる地点を!
 恐ろしいのは、上記のような恐怖のシナリオがたった一台(単位が適当かどうか分かりませんが)の汎用型人工知能によって成し遂げられる可能性があるということです。
 社会に不満を持つ誰かが、人工知能に世界を破滅させる欲求を与えた瞬間、人類は終わりです。
 そんな簡単に出来るはずがない?
 いえ、もしかしたら簡単に出来るかも知れません。
 




花塚優人
PR

COMMENT

NAME
TITLE
MAIL(非公開)
URL
EMOJI
Vodafone絵文字 i-mode絵文字 Ezweb絵文字
COMMENT
PASS(コメント編集に必須です)
SECRET
管理人のみ閲覧できます

ランキング

にほんブログ村 科学ブログへ お勧めサイトランキングへ

カウンター

カレンダー

03 2018/04 05
S M T W T F S
1 2 3 5 6 7
8 9 10 11 12 13 14
15 16 17 18 19 20 21
22 23 24 25 26 27 28
29 30

カテゴリー

ブログ内検索

バーコード

P R

Copyright ©  -- 近代科学を切開する --  All Rights Reserved
Design by CriCri / Photo by Geralt / powered by NINJA TOOLS / 忍者ブログ / [PR]