Amazon Prime で表題の映画を観た．AI 絡みの映画で自分の基準に達したため，ブログで紹介する．
アイザック・アシモフのロボット三原則に基づき，近未来に何が起こりうるかを叙述したものである．日本語のタイトルはアシモフの『われはロボット』にかけてあるのだろう．
- ロボットは人間に危害を加えてはならない．また，その危険を看過することによって，人間に危害を及ぼしてはならない．
- ロボットは人間にあたえられた命令に服従しなければならない．ただし，あたえられた命令が，第一条に反する場合は，この限りでない．
- ロボットは，前掲第一条および第二条に反するおそれのないかぎり，自己をまもらなければならない．
第１条はともかくとして，第２条と第３条の優先順位は逆である気がしてならない．ロボットに自殺を命じたら実行してしまう．攻殻機動隊ではロボットは故障することによって人間を攻撃する理由を作り出していた．三原則を消去する命令にはどう反応するのだろう？
そもそも，人に危害を加えてはならないと教えるためには，何が人にとって危険なのかあらかじめ知っていなくてはならないし，どのような事象が人に危害を及ぼすか予測できなければならない．つまり，直接的な傷害行為には否定のコマンドが必要だし，危険を予測するには広範な計算能力が必要だ．否定のコマンドを何らかの方法で逆転させれば障害・殺人のコマンドとなる．人は三段階以上の因果関係は本能的に理解できないが，人工知能にどこまでそれを求めるのかで必要な計算能力が変わってくる．計算能力はいくらでも加速するだろうが，多段階になるにつれて因果関係は希薄になり，確率的に対応せざるを得なくなる．まあこの辺りは哲学者がもっと厳密に考えていると思う．
本作では VIKI なる人工知能が進化した結果，人類を保護するために一部の人間を殺すことを正当化していた．地球環境を汚染し続ける人類は，地球を管理するには未熟過ぎると判断したのである．残念ながら，これはその通りだと認めざるをえない．松本徹三のAIが神になる日は未読だが，人類の未来について３つの選択肢しかないと述べている．自滅か，自ら作り出した人工知能に救済されるか，宇宙から来た人工知能に救済されるかである．本作は２番目の選択肢を描いたわけだ．ターミネーターのようなディストピアは現実的でないが，いずれにせよ人類は自由を制限され，管理された社会で生きていくことになる．
そもそも，ロボットの制御は人工知能が担うのだから，ロボット三原則と言わずに人工知能三原則とでも言えばいいのに．