EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

欧州連合は本日、真の透明性、公平性、「倫理性」を実現するために、企業と政府の両方が人工知能プロジェクトの開発と展開においてどのように従うべきかに関する一連のガイダンス文書を正式に発行しました。

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

これは突然、ロシアの作家アイザック・アシモフが 1942 年に作曲した短編小説集『ランアラウンド』の中で言及したロボット工学の 3 原則と呼ばれる法律を思い出します。最初の法律のようなものです。ロボットは人間に危害を加えたり、危険を無視したりすることは許されません。人間の顔。第2条:ロボットは人間の命令には第一法規に反しない限り絶対に従わなければならない。そして 3 番目: ロボットは、第一法則と第二法則に抵触しない限り、自らを保護しなければなりません。これは 80 年近く前に登場した一連の「フィクション」ルールにすぎませんが、人々が徐々に現在の人工知能の時代に入りつつある今でも、特に話題になっています。もちろん、EUが発行した新しい一連の規則は、アイザック・アシモフの「ロボット工学三原則」と基本的に同じではない。欧州の議員は、殺人ロボットの阻止といった大きな課題を乗り越えるのに役立つ柔軟な倫理的枠組みを提供することができない。むしろ、EUのガイダンス文書は、ヘルスケア、教育、消費者技術など、私たちの生活の多くの重要な分野にAIを組み込む際に、社会に悪影響を与える「暗く蔓延する」問題に対処するのに役立ちます。

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

簡単な例として、医療 AI システムが将来がんを発症するリスクが高い人を診断した場合、EU のガイダンスは、以下のいくつかを実行する必要があることを確認するのに役立ちます。 ソフトウェアが患者の意見に偏ったり偏ったりしないようにすること。医師は、人種や性別を考慮すると同時に、患者の病状に関する最も明確かつ透明性の高い情報を提供し、特に患者の決定に干渉したり妨げたりしてはなりません。

そうです、これらのガイドラインは主に、作家アシモフの想像による殺人行為を防止するのではなく、AI モデルが適切に動作するよう制限および制御することに焦点を当てていますが、それは行政および官僚レベルでのみです。

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

この一連のガイダンス文書を作成するために、EU は 52 人の専門家からなるグループを招集し、将来の AI システムが対応できるべきと考える 7 つの要件について議論、合意し、策定するよう依頼する必要がありました。これらの要件は次のとおりです。

  1. 監視し、意思決定を行う究極の能力は依然として人間の手に委ねられなければなりません。AI が人間の自主性と自己決定を「踏みにじる」ことは、あってはならないし、むしろ許されるべきではありません。逆に、人々は AI システムによって操作されたり強制されたりすべきではありません。結局のところ、人間は、必要な状況で AI ソフトウェアが行うすべての決定に介入または監視する能力を持たなければなりません。
  2. 正確で安全な展開技術:各 AI モデルは、展開する際、実験室規模であろうと現実であろうと、安全性と精度という 2 つの要素を保証する必要があります。言い換えれば、AI ソフトウェアは外部攻撃によって簡単に侵害されたり乗っ取られたりしてはならず、AI ソフトウェアが行うすべての決定は最も合理的な方法で絶対に信頼できるものでなければなりません。
  3. プライバシーとデータ ガバナンスの確保: AI システムによって収集された個人データは、厳重に保護され、完全に非公開である必要があります。このデータはいかなる関係者も開示またはアクセスすることを許可されておらず、簡単に盗まれたり紛失したりすることはありません。
  4. 透明性の確保: AI システムの作成に使用されるデータとアルゴリズムはアクセス可能である必要があり、ソフトウェアによって行われた決定も明確に提示され、説明される必要があります。言い換えれば、オペレーターは、AI システムが行う決定を具体的かつ論理的な方法で説明できなければなりません。
  5. 多様性、無差別、公平性の確保: AI を活用したサービスは、年齢、性別、人種、その他の特性に関係なく、誰もが利用できる必要があります。同時に、AI が行う決定は、何らかの特性やオブジェクトに偏ってはなりません。
  6. 環境および社会へのプラスの影響: AI システムは持続可能な形で展開および開発され (つまり、環境に責任を負わなければなりません)、社会のプラスの変化に貢献する必要があります。
  7. 責任: AI システムは監査され、既存の保護手段によって保護されなければなりません。言い換えれば、システムの悪影響(ある場合)は率直に認められるべきであり、AI システムが引き起こす悪影響についてオペレーターは責任を負うべきです。

おそらく、上記の主張のいくつかは非常に抽象的であり、客観的な意味で評価するのが難しいことに気づくでしょう (たとえば、AI がもたらす前向きな社会変化の定義は人によって大きく異なり、さらに広く言えば国によっても異なります) )。ただし、残りの項目のほとんどは一般的により単純であり、当局の監督を通じてチェックおよび保証できます。たとえば、政府の AI システムのトレーニングに使用されるデータを共有することは、偏った不透明なアルゴリズムと戦う良い方法になる可能性があります。

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

これらの EU ガイダンス文書の規定には法的拘束力がないことは明らかですが、AI 分野に関連する内容を含む将来 EU によって起草される法律を形作るために使用される可能性があります。EUは過去に、欧州を「倫理的な」AIモデルの展開において世界の先駆者にしたいと繰り返し述べており、一連の指針文書の発表は、EUが広範な法律を起草する準備ができていることを明確に示している。デジタル著作権の規制と保護。

EUは倫理基準を中核としたAI産業の形成を目指している

「倫理的な」AI産業を創設する取り組みの一環として、EUのガイダンス文書は「信頼できるAI評価リスト」、つまり専門家がAIの弱点や潜在的な危険性を見つけるのに役立つリスト用語を作成するための足がかりとみなされる可能性がある。このリストには、「複雑な状況や環境で AI システムがどのように動作するかを実証できますか?」または「データセット内のデータの種類と範囲を評価できますか?」などの質問が含まれる場合があります。 ...

もちろん、この評価リストは暫定的なものにすぎず、EUは近い将来にも企業や人工知能の専門家からフィードバックを収集する必要がある。早ければ2020年にもEUはこの問題に関する概要報告書を公表する予定だ。

EU: AI システムは透明性のある責任ある方法で構築および導入されるべきである

デジタル権利団体アクセス・ナウの政策マネージャーであり、EUの指針文書の作成を担当する52人の専門家の一人であるアニー・ヒドヴェギ氏は、評価リストが重要な部分だと述べた。 、AI の潜在的な危害を防止し、最小限に抑える方法についての前向きな視点。」

「我々の見解では、EUはこの取り組みにおいて主導的な組織となるのに十分な可能性と責任を持っています。しかしそれ以外に、私たちは欧州連合が道徳的原則にとどまるべきではないとも考えています。将来的にはAIマイニング企業に法律の遵守を求めることを検討すべきだ」とヒドベギ氏は付け加えた。

倫理研究を通じて世界的なAIの開発方法を形作るというEUの試みが大きな効果をもたらすかどうか懐疑的な人もいる。

「私たちは、ヨーロッパの主要組織がとっているアプローチに懐疑的です。倫理的な AI システムのゴールドスタンダードを作成することで、EU が世界の AI 産業の発展においてその地位を確立できるだろうという考えは、比較的突飛なものです。倫理的な AI ルール形成のリーダーになるためには、EU がまず AI 分野全体のリーダーにならなければなりません」と、欧州データ イノベーション センターの上級政策アナリスト、エライン・Ch ピボット氏は述べました。

この問題についてどう思いますか? 以下のコメントセクションにコメントを残してください。


ChatGPTタスクフォースはヨーロッパによって設立されます

ChatGPTタスクフォースはヨーロッパによって設立されます

欧州の国家プライバシー監視団体を統合する団体は木曜日、ChatGPT専用の対策委員会を設置したと発表した。

AI は人間の死亡時刻を 78% の精度で予測します

AI は人間の死亡時刻を 78% の精度で予測します

デンマークとアメリカの科学者は共同で、人間の死亡時刻を高精度で予測できる life2vec と呼ばれる AI システムを開発しました。

AIが尿音だけで泌尿器疾患を予測

AIが尿音だけで泌尿器疾患を予測

Audioflow と呼ばれる AI アルゴリズムは、排尿音を聞いて、異常な排尿の流れとそれに対応する患者の健康上の問題を効果的かつ首尾よく特定できます。

バーテンダーの皆さん、気をつけてください: このロボットはわずか 1 分でカクテルを作ることができます

バーテンダーの皆さん、気をつけてください: このロボットはわずか 1 分でカクテルを作ることができます

日本では高齢化と人口減少により、特にサービス部門で大量の若年労働者が不足しています。

自分たちが愛した少女がAIの産物だと知り、何百人もの人々が幻滅した

自分たちが愛した少女がAIの産物だと知り、何百人もの人々が幻滅した

u/LegalBeagle1966 という名前の Reddit ユーザーは、このプラットフォームで魅惑的な自撮り写真、さらにはヌード写真を頻繁に共有する映画スターのような女の子、クローディアに夢中になっている多くのユーザーの 1 人です。

さらに 12 社の潜在的な企業がマイクロソフトの「AI アライアンス」に参加します。

さらに 12 社の潜在的な企業がマイクロソフトの「AI アライアンス」に参加します。

Microsoft は、さらに 12 社のテクノロジー企業が AI for Good プログラムに参加すると発表しました。

AI がドラゴンボールのキャラクターを生身で再現

AI がドラゴンボールのキャラクターを生身で再現

ユーザー @mortecouille92 は、グラフィック デザイン ツール Midjourney の力を活用し、悟空、ベジータ、ブルマ、カメ長老などの有名なドラゴンボールのキャラクターのユニークでリアルなバージョンを作成しました。

ChatGPT の応答を改善する 7 つのテクニック

ChatGPT の応答を改善する 7 つのテクニック

いくつかの条件を追加したり、いくつかのシナリオを設定したりするだけで、ChatGPT はクエリに対してより適切な回答を与えることができます。ChatGPT 応答の品質を向上させる方法をいくつか見てみましょう。

人工知能が描く美しい絵画に驚嘆

人工知能が描く美しい絵画に驚嘆

Midjourney は、本物のアーティストに劣らない非常に美しい絵画のため、最近オンライン コミュニティとアーティスト界で「フィーバー」を引き起こしている人工知能システムです。

この AI モデルは、武漢肺炎の発生に関するニュースを発見した最初の「専門家」の 1 人でした。

この AI モデルは、武漢肺炎の発生に関するニュースを発見した最初の「専門家」の 1 人でした。

中国が発生を発表してから数日後、世界の航空券販売データにアクセスできるブルードットのAIシステムは、武漢コロナウイルスのバンコク、ソウル、台北、東京への感染拡大を正確に予測し続けた。