EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

欧州連合は本日、真の透明性、公平性、「倫理性」を実現するために、企業と政府の両方が人工知能プロジェクトの開発と展開においてどのように従うべきかに関する一連のガイダンス文書を正式に発行しました。

• テクノロジー管理者の 91% は、AI が次のテクノロジー革命の中心になると信じています

これは突然、ロシアの作家アイザック・アシモフが 1942 年に作曲した短編小説集『ランアラウンド』の中で言及したロボット工学の 3 原則と呼ばれる法律を思い出します。最初の法律のようなものです。ロボットは人間に危害を加えたり、危険を無視したりすることは許されません。人間の顔。第２条：ロボットは人間の命令には第一法規に反しない限り絶対に従わなければならない。そして 3 番目: ロボットは、第一法則と第二法則に抵触しない限り、自らを保護しなければなりません。これは 80 年近く前に登場した一連の「フィクション」ルールにすぎませんが、人々が徐々に現在の人工知能の時代に入りつつある今でも、特に話題になっています。もちろん、EUが発行した新しい一連の規則は、アイザック・アシモフの「ロボット工学三原則」と基本的に同じではない。欧州の議員は、殺人ロボットの阻止といった大きな課題を乗り越えるのに役立つ柔軟な倫理的枠組みを提供することができない。むしろ、EUのガイダンス文書は、ヘルスケア、教育、消費者技術など、私たちの生活の多くの重要な分野にAIを組み込む際に、社会に悪影響を与える「暗く蔓延する」問題に対処するのに役立ちます。

• Facebook AIエンジニアがディープラーニング、新しいプログラミング言語、人工知能用ハードウェアについて語る

簡単な例として、医療 AI システムが将来がんを発症するリスクが高い人を診断した場合、EU のガイダンスは、以下のいくつかを実行する必要があることを確認するのに役立ちます。 ソフトウェアが患者の意見に偏ったり偏ったりしないようにすること。医師は、人種や性別を考慮すると同時に、患者の病状に関する最も明確かつ透明性の高い情報を提供し、特に患者の決定に干渉したり妨げたりしてはなりません。

そうです、これらのガイドラインは主に、作家アシモフの想像による殺人行為を防止するのではなく、AI モデルが適切に動作するよう制限および制御することに焦点を当てていますが、それは行政および官僚レベルでのみです。

• [インフォグラフィック] 人工知能が徐々に人間に取って代わる未来の仕事

この一連のガイダンス文書を作成するために、EU は 52 人の専門家からなるグループを招集し、将来の AI システムが対応できるべきと考える 7 つの要件について議論、合意し、策定するよう依頼する必要がありました。これらの要件は次のとおりです。

1. 監視し、意思決定を行う究極の能力は依然として人間の手に委ねられなければなりません。AI が人間の自主性と自己決定を「踏みにじる」ことは、あってはならないし、むしろ許されるべきではありません。逆に、人々は AI システムによって操作されたり強制されたりすべきではありません。結局のところ、人間は、必要な状況で AI ソフトウェアが行うすべての決定に介入または監視する能力を持たなければなりません。
2. 正確で安全な展開技術:各 AI モデルは、展開する際、実験室規模であろうと現実であろうと、安全性と精度という 2 つの要素を保証する必要があります。言い換えれば、AI ソフトウェアは外部攻撃によって簡単に侵害されたり乗っ取られたりしてはならず、AI ソフトウェアが行うすべての決定は最も合理的な方法で絶対に信頼できるものでなければなりません。
3. プライバシーとデータ ガバナンスの確保: AI システムによって収集された個人データは、厳重に保護され、完全に非公開である必要があります。このデータはいかなる関係者も開示またはアクセスすることを許可されておらず、簡単に盗まれたり紛失したりすることはありません。
4. 透明性の確保: AI システムの作成に使用されるデータとアルゴリズムはアクセス可能である必要があり、ソフトウェアによって行われた決定も明確に提示され、説明される必要があります。言い換えれば、オペレーターは、AI システムが行う決定を具体的かつ論理的な方法で説明できなければなりません。
5. 多様性、無差別、公平性の確保: AI を活用したサービスは、年齢、性別、人種、その他の特性に関係なく、誰もが利用できる必要があります。同時に、AI が行う決定は、何らかの特性やオブジェクトに偏ってはなりません。
6. 環境および社会へのプラスの影響: AI システムは持続可能な形で展開および開発され (つまり、環境に責任を負わなければなりません)、社会のプラスの変化に貢献する必要があります。
7. 責任: AI システムは監査され、既存の保護手段によって保護されなければなりません。言い換えれば、システムの悪影響（ある場合）は率直に認められるべきであり、AI システムが引き起こす悪影響についてオペレーターは責任を負うべきです。

おそらく、上記の主張のいくつかは非常に抽象的であり、客観的な意味で評価するのが難しいことに気づくでしょう (たとえば、AI がもたらす前向きな社会変化の定義は人によって大きく異なり、さらに広く言えば国によっても異なります) ）。ただし、残りの項目のほとんどは一般的により単純であり、当局の監督を通じてチェックおよび保証できます。たとえば、政府の AI システムのトレーニングに使用されるデータを共有することは、偏った不透明なアルゴリズムと戦う良い方法になる可能性があります。

• [インフォグラフィック] 人工知能の利点と危険性

これらの EU ガイダンス文書の規定には法的拘束力がないことは明らかですが、AI 分野に関連する内容を含む将来 EU によって起草される法律を形作るために使用される可能性があります。EUは過去に、欧州を「倫理的な」AIモデルの展開において世界の先駆者にしたいと繰り返し述べており、一連の指針文書の発表は、EUが広範な法律を起草する準備ができていることを明確に示している。デジタル著作権の規制と保護。

EUは倫理基準を中核としたAI産業の形成を目指している

「倫理的な」AI産業を創設する取り組みの一環として、EUのガイダンス文書は「信頼できるAI評価リスト」、つまり専門家がAIの弱点や潜在的な危険性を見つけるのに役立つリスト用語を作成するための足がかりとみなされる可能性がある。このリストには、「複雑な状況や環境で AI システムがどのように動作するかを実証できますか?」または「データセット内のデータの種類と範囲を評価できますか?」などの質問が含まれる場合があります。 ...

もちろん、この評価リストは暫定的なものにすぎず、EUは近い将来にも企業や人工知能の専門家からフィードバックを収集する必要がある。早ければ2020年にもEUはこの問題に関する概要報告書を公表する予定だ。

• AI研究者は人間に似た機械の開発を中止した

デジタル権利団体アクセス・ナウの政策マネージャーであり、EUの指針文書の作成を担当する52人の専門家の一人であるアニー・ヒドヴェギ氏は、評価リストが重要な部分だと述べた。 、AI の潜在的な危害を防止し、最小限に抑える方法についての前向きな視点。」

「我々の見解では、EUはこの取り組みにおいて主導的な組織となるのに十分な可能性と責任を持っています。しかしそれ以外に、私たちは欧州連合が道徳的原則にとどまるべきではないとも考えています。将来的にはAIマイニング企業に法律の遵守を求めることを検討すべきだ」とヒドベギ氏は付け加えた。

倫理研究を通じて世界的なAIの開発方法を形作るというEUの試みが大きな効果をもたらすかどうか懐疑的な人もいる。

「私たちは、ヨーロッパの主要組織がとっているアプローチに懐疑的です。倫理的な AI システムのゴールドスタンダードを作成することで、EU が世界の AI 産業の発展においてその地位を確立できるだろうという考えは、比較的突飛なものです。倫理的な AI ルール形成のリーダーになるためには、EU がまず AI 分野全体のリーダーにならなければなりません」と、欧州データ イノベーション センターの上級政策アナリスト、エライン・Ch ピボット氏は述べました。

• 60 年を超える人工知能開発の歴史における重要なマイルストーンを振り返る

この問題についてどう思いますか? 以下のコメントセクションにコメントを残してください。