2018.12.14 Friday
「させない原則」は、しうるから
写真作者：Jesper Rønn-Jensen
政府の「人間中心のAI（人工知能）社会原則検討会議」が、（2018年）12月13日（木）の第8回会議で、人工知能の活用に関する7つの「基本原則」を決めたということです。各新聞社などが伝えています。
同会議のサイトによると、この会議は「人工知能をより良い形で社会実装し共有するための基本原則となる人間中心の人工知能社会原則を策定し、同原則をG7（先進7か国蔵相・中央銀行総裁会議）及びOECD（経済協力開発機構）等の国際的な議論に供するため、人工知能技術並びに人工知能の中長期的な研究開発及び利活用等に当たって考慮すべき倫理等に関する基本原則について、産学民官のマルチステークホルダーによる幅広い視野からの調査・検討を行うことを目的とする」もの。
人工知能よ、どうか短く要約してください。
伝えられている「7つの原則」はつぎのものです。
1 「人間中心」基本的人権を侵さない
2 「教育・リテラシー」正しい利用のための教育環境提供
3 「プライバシー保護」望まない形での個人情報流出防止
4 「セキュリティ確保」安全上の取り組み推進
5 「公正競争確保」特定の国・企業に人工知能の資源集中させず
6 「公平性、説明責任、透明性」人工知能利用で国籍や性別などの差別をつくらせない
7 「イノベーション」国境を越えたデータ利用へ環境整備
人工知能にかぎった話ではないものの、こうした原則がつくられるということは、原則に反することが生じうることを意味します。原則に反することが生じえなければ、原則をつくる必要はほぼありません。
とりわけ、「させない」や「防ぐ」といった表現が使われている原則については、その逆の状況が起きうることを意味します。たとえば、基本的人権を侵すような人工知能の使われかたがされうるし、人工知能の使いかたによって個人情報が流出しうるわけです。また、特定の国や企業に資源が集中しうるし、差別がつくられうるわけです。
人工知能をめぐっては、ゆくゆく人が制御できなくなるほどに暴走し、人を支配するようになるのではないかと心配する人もいます。いっぽう、この原則は、人工知能「活用」のためのもの。つまり、人間が人工知能をどう使うかについての原則です。
「人工知能がみずから暴走し、人を支配して滅亡させる」といった悲観論は、空想科学小説じみているからか、よく話題にのぼります。
しかし「人工知能を悪用する人が人工知能を暴走させ、人を支配させて滅亡させる」といった話や「人工知能を悪用する人がほかの人びとを支配し、殺戮する」といった話は、さほど話題にはなりません。これらも、人工知能をもってしまった人間が生みだす危険です。
参考資料
内閣府「人間中心のAI社会原則検討会議」
https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html
ITmedia NEWS 2018年12月14日付「政府、『人間中心』AIの7原則 国際ルール作り主導へ」
http://www.itmedia.co.jp/news/articles/1812/14/news067.html
