あぁ、まただ。「何度言ったらわかるんだ、その曲じゃないよ。AladdinとI love youは全然違うでしょ、アレクサ。」我が家のAIスピーカーは、娘の指示には確実に従うのに、私には反抗的だ。いい加減私の声のクセを学んで欲しい、AmazonのAI技術もまだまだだなぁなどと、自分の発音の悪さを棚に上げてツールのせいに…。ますます自分が哀れになる。
　AI（人工知能）はすごい技術なのだから忖度して何でも自ら改善してくれるのでは？　と思われがちだが、その実現は未だ先の話である。いわゆるAIと呼ばれているものは結構広い概念で、中身からレシピを教えてくれる冷蔵庫、お勧めの記事を表示する検索サイト、ロボタクシーの自動運転技術など様々な用途や技術レベルを包含する。現時点のAIは、C3POやドラえもんほどの総合的な機能は持っていないが、それぞれの場面で私達の暮らしを豊かにしてくれる。そして、技術の進歩とともに今後一層生活に浸透していくであろう。
　一方で、新しい技術というものは、正しく理解しておかないと思わぬ落とし穴にはまる可能性もある。クレジットカードもインターネットも今や生活の一部となったが、安心して使うためにはそのリスクを正しく理解しておかなければいけない。特に、倫理的なリスクについては、必ずしも規制や技術だけで解決できない部分もある。先日、AIのユーザー、開発者、規制当局などの関係者が心得ておくべき倫理的なリスクについて、世界経済フォーラムから興味深いレポートが出された。将来、私達がAIの恩恵を最大限受けるために、そして余計な不安を抱かないためにいくつかご紹介したい。


　まず、よく言われる話としてプライバシーやセキュリティの問題がある。AIが個人に最適なサービスを提供するためには、個々の生活から生み出されるデータをできるだけ収集・処理する必要がある。蓄積された個人の生活データは良くも悪くも力を持ち、私達の判断や行動に少なからず影響を与える。そしてデータ保護については、厳格な規制や企業による対策を行っていても100％安全とはならない。AIを機能させるソフトウェアとハ??ードウェアには、誤作動やサイバー攻撃のリスクが常にある。そもそもAIは、データが偏っていると正常に機能しても統計的処理の結果が不適切にもなり得る。AIの自律的な判断結果で人の生命、身体または財産に損害を与えても、誰がどのように責任を負うのか賠償ルールが明確でない。サービスによって得られる利便性と漏洩などのリスクのバランスで、どこまで誰に自らのデータを提供しても良いか、常に配慮したい。


　AIは透明性が欠けているとも言われる。英国情報委員会事務局でも、大規模ネットワークを通じたデータ処理はブラックボックス化し、AI（特にディープラーニング）のアウトプットへ至る経緯の説明が困難になると伝えている。一方で、センサー付きエアコンがどのように風量や風向きを調整するか、お掃除ロボットがどのように部屋中を動き回るかなどは、一定の説明が可能である。今後、AIの開発者は、ユーザーの信頼を得るために、そのAIがどのような状況で何をするのかを可能な限り説明し、予期しない動作をしないよう努めていくことが期待される。


　ネットの検索がAIで効率的になればなるほど、私達の社会との接点はある意味限定される。チャットボットは、公開されている様々な意見や事実から特定のものだけ拾い、自動で大量配布するが、これは同時に情報の偏りを引き起こし、世論をゆがめる可能性がある。AIがフェイクニュースを流布しても、そのニュースを期待していた人が真偽を判断するのは困難である。


　私達の生活のやり取りが人からAIロボットに代わると、感情や直感ではなくデータに基づく合理的な選択がなされるようになる。同時にそれは、人間の生活とは何か、人間の尊厳とは何かを改めて考えさせられることにもなる。例えば、AI搭載のおもちゃや、病院・介護現場でのサービスロボット導入が進んだ場合、人とAIロボットのやり取りが増えることで私達の感覚や生活スタイルが変化する。また、AIの過剰使用によって人は自ら判断・決定する能力が低下し、逆に自律的な生活ができなくなるとの指摘もある。
　AIは、技術も制度も追いついていない現状ではあるが、こうした課題があるから使わないというのではなく、リスクを理解・回避して最大限活用したい。方向感覚を無くしがちなAI社会の到来に備えて、羅針盤となる自らの倫理観や価値観を育てることが重要ではないだろうか。