AIやロボットの活用を誤ると、人間の首を絞めかねません（出典：写真AC）
■「ロボット３原則」の盲点？
米国のSF作家アイザック・アシモフは、SF小説の中でロボットが従わなければならない３つの原則を定めました。それが「ロボット３原則」です。次のように人間に対する安全性、人間の命令への服従、自己防衛を柱としています。
１.第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。２.第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。３.第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。（ウィキペディアより）
これを読んだ読者のみなさんは、例えばウィル・スミス主演のSF映画「アイ,ロボット」に登場するような人間型ロボットのことを想像したのではないでしょうか。確かに人間と人間型ロボットが入り混じって生活するような社会の中では、この原則が適用されなければ安心してロボットと付き合うことはできないでしょう。いつどんなことがきっかけで暴走し出さないとも限りませんから。
一般にSFで描かれる人間-ロボット共存社会は、人間の僕（しもべ）としてロボットが存在することが暗黙の了解となっているものも少なくありません。彼らが正常に動作する限り、人間の労力の手間を省き、あるいはサポートし、人間の役に立つ理想的な社会の姿です。ところが、これから到来する社会はむしろ現実的なリスクを抱えています。ご存じの方も多いと思いますが、それはロボット３原則だけでは人間を守り切れない問題―「ロボットやAIによって多くの人間が失業する」という問題です。
■ロボットが人間を失業させる時代
ここでは「人間型ロボット」のことは忘れていただき、すでに工場や倉庫などで稼働している多様な形態のロボットを中心に考えてみましょう。イギリスのPricewaterhouseCoopers（PWC）という企業が昨年発表したPDF資料には、興味深いことが書かれています。この資料によると、2030年までに米国では38%の仕事がオートメーション化のリスクに、ドイツでは最大35%、イギリスでは約30%、日本では21%がこのリスクにさらされていると言います。
■PWCの資料
https://www.pwc.co.uk/economic-services/ukeo/pwcukeo-section-4-automation-march-2017-v2.pdf
また、これによればロボットやAIによるオートメーション化が最も進む分野は運送業や倉庫業、製造業、小売業とのこと。イギリスの場合、非大卒者の最大46%が、そして大学生以上になると約12%が機械にとって代わられてしまうのだそうです。
一方、民間シンクタンクのマッキンゼー・グローバル・インスティテュートも、昨年似たようなレポートを発表しています。2030年までに46カ国にわたって労動の３分の１が機械に代替されてしまうのです。ただし中には容易に機械に任せられない仕事もある。例えば、エンジニアや医療サービス・医療介護、科学者、会計士、専門技術者、教育者、マネージャなどの仕事です。また、芸術家やエンターテイナーのような「クリエィティブ」な職種も含まれることは言うまでもありません。
このレポートによると、オートメーション化によって生産性は向上し、経済成長につながる。そしてそれがもう一つの影響、つまり機械に取って代わられた何百万人もの労働者の経済的影響（失業に伴う消費の低迷やGDPの低下のことなどを指すのでしょう）を埋め合わせることができるだろうと推測しています。果たしてどうなんでしょうか？ みなさんは額面通りにこうした予測を受け入れることができますか？
■「まさか！」の時の原因究明は一筋縄ではいかない？
ロボットやAIに代替されてしまう労働者の割合や職種を見て、少し暗い気持ちになった人もいるでしょう。しかし歴史的な裏付けを持たない未来予測というのは、しばしば「過大に評価」されがちであることも否定できません。
例えばこんなケース。ある時、工場ラインの製品に傷が頻発する事故が発生した。調べてみたら（人間の）従業員による手順ミスだった。この場合、本人への聞き取り調査や手順の再現などを通じてトラブルの原因を突き止め、再発防止策を講じることはむずかしくありません。
ところが、AIで制御するロボットがこの種の事故を起こしたらどうなるでしょうか。ロボットに聞き取り調査を行うことはできません。診断用のパソコンを接続して原因を調べようとしても、AIは自分で学習する能力がありますから、アルゴリズムを追跡しても容易には原因がわからないかもしれません。
このようなケースは他の分野のAIでも発生する可能性があります。例えば不審者を見分ける機能を持つ警備ロボットや、高齢者や身障者の介護ロボットが、人間の尊厳にかかわる誤認をしないとも限りません。人間の監視員や介護スタッフならば一言謝まれば済むことでも、AIロボットは自分であやまちや責任を認めて謝罪することはできませんから、原因を究明し、再発防止策を講じるまでにはかなりのコストと時間がかかるでしょう。結局「何かトラブルが起こったときは人間の方が柔軟に対処できる」という話になる。
ヒューマンエラーという言葉があります。これは「人間は間違いを犯す動物である」という前提のもとで発展してきた研究分野ですが、その間違いをおかす人間が、絶対に間違いをおかさないAIロボットを作れるという考え方には矛盾があります。上に述べたようなミスや事故の発生は避けられません。インシデントが何度か起これば、これを利用する側としては懐疑的にならざるを得ない。世の中の仕事がどんどんAIロボットに代替されていき、ハローワークに失業者があふれるという可能性は、けっして高くはないだろうと筆者は考えています。
■大切なのは「私たちがどんな社会を望むのか？」だ
しかし、いかに筆者個人がAIロボットによる人間大量失業時代の到来を割り引いて考えたとしても、人間の仕事が着実に機械に代替されていく時代はもう始まっていることも確かです。先ほどのシンクタンクの予測と提言によれば、今後従業員は、AI化できない部分の活動により多くの時間を割くことが求められるだろうと述べています。人間ならではの感情や認知、創造性に関わるスキルを磨けるような仕事のことです。また将来はAIの研究開発や調査の仕事が大幅に増え、いわばAI分野の仕事が花形職業になるため、とくに若い世代は前もって少しずつ準備を進める必要があるとも書かれています。
とは言え、こうした雇用対策への提言にはある種のよそよそしさを感じないわけにはいきません。いわば勝ち組としての視点からしか書かれていないのです。世の中には、いずれAIにとって代わられるであろう従来型の職業にやりがいや生きがいを見出している人々もたくさんいるでしょう。またいくら若い世代はAI業界を目指すべきと言っても、個人差や関心の度合い、得手不得手、能力の高低があることは避けられません。AI時代の波にうまく乗れなかった人々はどうなるのでしょうか。
思うに私たちが本当に考えなくてはならないのは、「将来AIに仕事を奪われる。どうしよう」と心配することではなく、将来「どんな社会を望むのか？」ということです。私たちはこれまで、右肩上がりの経済成長こそが至高の善なのだという認識を刷り込まれて育ってきました。しかしその結果が、過剰生産・過剰消費社会がもたらした地球温暖化であり、環境破壊であり、地球の海洋に広く漂うマイクロプラスチックが体内に蓄積した魚介類を食べざるを得ない状況に来ている今日の私たちの姿なのです。
世の中は私たちの望む方向へ進みます。SFのように至るところでAIが活躍する社会を望めば、そのような社会が実現します。しかしそれは私たち一人ひとりにとって必ずしも幸福な社会を約束するものではないことは、これまで見てきた通りです。
AIが社会に深く浸透すれば、一部の巨大IT企業に資本が集中し、そこに政治や軍事力にAIを利用したい政治権力と結びついて、一見すると理想的な社会だが、実態は徹底的な管理・統制が敷かれ、自由も外見のみであったり、人としての尊厳や人間性がどこかで否定されている社会であるディストピアの時代が到来するかもしれません。そのことを多くの科学者が懸念を示しています。映画「ターミネーター」のようにコンピュータが自己意識を獲得し、人間社会を支配することを心配しているのではありません。
AIに管理される社会が到来する前に、私たちがAI社会の成り行きをきちんと監視して、望ましい人間社会のあり方を維持するよう努力することが、最も賢明なやり方ではないでしょうか。AIはあくまでも私たち人間の活動をサポートするツールであって、人間の尊厳や生きる権利を侵害する存在であってはならないのです。
（了）
