科学技術のアネクドート

<< どちらも「オーケーです」の意味でも出どころは別々 | main | 「雪の壁」を街で疑似体験 >>
「させない原則」は、しうるから


写真作者:Jesper Rønn-Jensen

政府の「人間中心のAI(人工知能)社会原則検討会議」が、(2018年)12月13日(木)の第8回会議で、人工知能の活用に関する7つの「基本原則」を決めたということです。各新聞社などが伝えています。

同会議のサイトによると、この会議は「人工知能をより良い形で社会実装し共有するための基本原則となる人間中心の人工知能社会原則を策定し、同原則をG7(先進7か国蔵相・中央銀行総裁会議)及びOECD(経済協力開発機構)等の国際的な議論に供するため、人工知能技術並びに人工知能の中長期的な研究開発及び利活用等に当たって考慮すべき倫理等に関する基本原則について、産学民官のマルチステークホルダーによる幅広い視野からの調査・検討を行うことを目的とする」もの。

人工知能よ、どうか短く要約してください。

伝えられている「7つの原則」はつぎのものです。

 1 「人間中心」基本的人権を侵さない
 2 「教育・リテラシー」正しい利用のための教育環境提供
 3 「プライバシー保護」望まない形での個人情報流出防止
 4 「セキュリティ確保」安全上の取り組み推進
 5 「公正競争確保」特定の国・企業に人工知能の資源集中させず
 6 「公平性、説明責任、透明性」人工知能利用で国籍や性別などの差別をつくらせない
 7 「イノベーション」国境を越えたデータ利用へ環境整備

人工知能にかぎった話ではないものの、こうした原則がつくられるということは、原則に反することが生じうることを意味します。原則に反することが生じえなければ、原則をつくる必要はほぼありません。

とりわけ、「させない」や「防ぐ」といった表現が使われている原則については、その逆の状況が起きうることを意味します。たとえば、基本的人権を侵すような人工知能の使われかたがされうるし、人工知能の使いかたによって個人情報が流出しうるわけです。また、特定の国や企業に資源が集中しうるし、差別がつくられうるわけです。

人工知能をめぐっては、ゆくゆく人が制御できなくなるほどに暴走し、人を支配するようになるのではないかと心配する人もいます。いっぽう、この原則は、人工知能「活用」のためのもの。つまり、人間が人工知能をどう使うかについての原則です。

「人工知能がみずから暴走し、人を支配して滅亡させる」といった悲観論は、空想科学小説じみているからか、よく話題にのぼります。

しかし「人工知能を悪用する人が人工知能を暴走させ、人を支配させて滅亡させる」といった話や「人工知能を悪用する人がほかの人びとを支配し、殺戮する」といった話は、さほど話題にはなりません。これらも、人工知能をもってしまった人間が生みだす危険です。

参考資料
内閣府「人間中心のAI社会原則検討会議」
https://www8.cao.go.jp/cstp/tyousakai/humanai/index.html
ITmedia NEWS 2018年12月14日付「政府、『人間中心』AIの7原則 国際ルール作り主導へ」
http://www.itmedia.co.jp/news/articles/1812/14/news067.html
| - | 23:59 | comments(0) | trackbacks(0)
コメント
コメントする









この記事のトラックバックURL
http://sci-tech.jugem.jp/trackback/4813
トラックバック
CALENDAR
S M T W T F S
     12
3456789
10111213141516
17181920212223
2425262728  
<< February 2019 >>
SPONSORED LINKS
RECOMMEND
フェルマーの最終定理―ピュタゴラスに始まり、ワイルズが証明するまで
フェルマーの最終定理―ピュタゴラスに始まり、ワイルズが証明するまで (JUGEMレビュー »)
サイモン シン, Simon Singh, 青木 薫
数学の大難問「フェルマーの最終定理」が世に出されてから解決にいたるまでの350年。数々の数学者の激闘を追ったノンフィクション。
SELECTED ENTRIES
ARCHIVES
RECENT COMMENT
RECENT TRACKBACK
amazon.co.jp
Billboard by Google
モバイル
qrcode
PROFILE