EU: AI 시스템은 투명하고 책임감 있는 방식으로 구축 및 배포되어야 합니다.

유럽연합(EU)은 오늘 기업과 정부가 인공지능 프로젝트를 투명하고 공정하며 "윤리적"으로 개발하고 배포하는 데 어떻게 따라야 하는지에 대한 일련의 지침 문서를 공식적으로 발표했습니다.

• 기술 관리자의 91%는 AI가 차세대 기술 혁명의 중심이 될 것이라고 믿습니다.

문득 러시아 작가 아이작 아시모프가 1942년에 쓴 단편집 '런어라운드'에서 언급한 '로봇공학의 3원칙'이라는 법칙이 생각난다. 인간의 얼굴. 제2조: 로봇은 인간의 명령이 제1법칙에 저촉되지 않는 한 절대적으로 순종해야 합니다. 셋째, 로봇은 첫 번째 및 두 번째 법칙과 충돌하지 않는 한 스스로를 보호해야 합니다. 이는 약 80년 전에 등장한 일련의 '허구' 규칙일 뿐이지만, 사람들이 점차 인공지능 시대에 진입하고 있는 상황에서는 여전히 특히 화제가 되고 있다. 물론 EU가 발표한 새로운 규칙은 아이작 아시모프(Isaac Asimov)의 "로봇공학 3법칙"과 근본적으로 동일하지는 않습니다. 유럽의 국회의원들은 킬러 로봇을 막는 것과 같은 큰 일을 해결하는 데 도움이 되는 유연한 윤리적 틀을 제공할 수 없습니다. 대신, EU의 지침 문서는 우리가 의료, 교육, 소비자 기술 등 우리 삶의 많은 중요한 영역에 AI를 통합할 때 사회에 부정적인 영향을 미치는 "어둡고 만연한" 문제를 해결하는 데 도움이 됩니다.

• 페이스북 AI 엔지니어가 말하는 딥러닝, 새로운 프로그래밍 언어, 인공지능용 하드웨어

간단한 예로, 의료 AI 시스템이 미래에 암 발병 위험이 높은 사람을 진단하는 경우 EU 지침은 다음 중 일부가 수행되어야 함을 보장하는 데 도움이 될 것입니다. 인종이나 성별을 밝히는 동시에 자신의 의학적 상태에 대해 가장 명확하고 투명한 정보를 제공하며, 특히 환자의 결정을 방해하거나 방해해서는 안 됩니다.

따라서 이러한 지침은 주로 AI 모델이 제대로 작동하도록 제한하고 제어하는 ​​데 중점을 두고 있지만 작가 Asimov의 상상력에 따라 살인 행위를 예방하기보다는 행정 및 관료적 수준에서만 가능합니다.

• [인포그래픽] 인공지능이 점차 인간을 대체할 때 미래 직업

이 지침 문서 세트를 작성하기 위해 EU는 52명의 전문가 그룹을 소집하여 미래 AI 시스템이 대응할 수 있어야 한다고 생각하는 7가지 요구 사항을 논의하고 동의하고 제시하도록 요청해야 했습니다. 이러한 요구 사항은 다음과 같습니다.

1. 모니터링하고 결정을 내릴 수 있는 궁극적인 능력은 여전히 ​​인간의 손에 있어야 합니다. AI가 인간의 자율성과 자기 결정권을 " 짓밟는" 것을 허용해서는 안 됩니다. 반대로, 인간은 AI 시스템에 의해 조종되거나 강요되어서는 안 됩니다. 결국 인간은 필요한 상황에서 AI 소프트웨어가 내리는 모든 결정에 개입하거나 모니터링할 수 있는 능력을 갖추어야 합니다.
2. 정확하고 안전하며 안전한 배포 기술: 실험실 규모에서든 현실에서든 배포 시 각 AI 모델은 안전과 정확성이라는 두 가지 요소를 보장해야 합니다. 전제 조건. 즉, AI 소프트웨어는 외부 공격에 의해 쉽게 손상되거나 장악되어서는 안 되며, AI가 내리는 모든 결정은 가장 합리적인 방식으로 절대적으로 신뢰할 수 있어야 합니다.
3. 개인 정보 보호 및 데이터 거버넌스 보장: AI 시스템에서 수집한 개인 데이터는 철저하게 보호되고 완전히 비공개여야 합니다. 이 데이터는 어떠한 행위자도 공개하거나 접근할 수 없으며 쉽게 도난당하거나 분실될 수 없습니다.
4. 투명성 보장: AI 시스템을 만드는 데 사용되는 데이터와 알고리즘은 접근 가능해야 하며, 소프트웨어가 내리는 결정도 명확하게 제시되고 설명되어야 합니다. 즉, 운영자는 AI 시스템이 내리는 결정을 구체적이고 논리적인 방식으로 설명할 수 있어야 합니다.
5. 다양성, 차별 금지, 공정성 보장: AI 기반 서비스는 연령, 성별, 인종 또는 기타 특성에 관계없이 모든 사람이 사용할 수 있어야 합니다. 동시에 AI가 내리는 결정은 어떤 특성이나 객체에 편향되어서는 안 됩니다.
6. 긍정적인 환경 및 사회적 영향: AI 시스템은 지속 가능하게 배포 및 개발되어야 하며(즉, 생태학적으로 책임이 있어야 함) 긍정적인 사회 변화에 기여해야 합니다.
7. 책임: AI 시스템은 기존 안전 장치를 통해 감사되고 보호되어야 합니다. 즉, 시스템의 부정적인 영향(있는 경우)을 솔직하게 인정해야 하며, 운영자는 AI 시스템이 초래한 부정적인 영향에 대해 책임을 져야 합니다.

위의 주장 중 일부는 매우 추상적이며 객관적인 의미로 평가하기 어렵다는 점을 눈치채셨을 것입니다. 예를 들어 AI가 가져오는 긍정적인 사회적 변화에 대한 정의는 사람마다, 더 넓게는 국가마다 크게 다를 수 있습니다. ). 그러나 나머지 항목의 대부분은 일반적으로 단순하며 당국의 감독을 통해 확인 및 보장될 수 있습니다. 예를 들어, 정부 AI 시스템을 교육하는 데 사용되는 데이터를 공유하는 것은 편향되고 불투명한 알고리즘에 맞서 싸우는 좋은 방법이 될 수 있습니다.

• [인포그래픽] 인공지능의 장점과 위험성

이러한 EU 지침 문서의 조항은 분명히 법적 구속력이 없지만 AI 분야와 관련된 내용을 포함하여 유럽 연합에서 초안을 작성한 향후 법률을 형성하는 데 사용될 수 있습니다. 과거에 EU는 유럽을 "윤리적인" AI 모델을 배포하는 세계의 선구자로 만들고 싶다고 반복해서 밝혔으며 일련의 지침 문서를 발표했습니다. 이는 그들이 광범위한 법률 초안을 작성할 준비가 되었음을 분명히 보여줍니다. 디지털 권리를 규제하고 보호합니다.

EU는 윤리적 기준을 핵심으로 AI 산업을 형성하기를 원합니다.

"윤리적인" AI 산업을 만들기 위한 노력의 일환으로 EU 지침 문서는 "신뢰할 수 있는 AI 평가 목록"을 만드는 디딤돌로 볼 수 있습니다. 이 목록은 전문가가 AI의 약점이나 잠재적 위험을 찾는 데 도움이 되는 목록 용어입니다. 소프트웨어가 광범위하게 배포되었더라도 이 목록에는 "복잡한 상황과 환경에서 AI 시스템이 어떻게 작동하는지 보여줄 수 있습니까?" 또는 "데이터 세트에 있는 데이터의 유형과 범위를 평가할 수 있습니까?"와 같은 질문이 포함될 수 있습니다. ...

물론 이 평가 목록은 예비적인 것일 뿐이며, EU는 가까운 시일 내에 기업과 인공지능 전문가로부터 피드백을 수집해야 할 것입니다. 이르면 2020년 초에 EU는 이 문제에 대한 요약 보고서를 발표할 예정입니다.

• AI 연구자들은 인간과 유사한 기계 개발을 중단했습니다

디지털 권리 단체 Access Now의 정책 관리자이자 EU 지침 문서 작성을 담당하는 52명의 전문가 중 한 명인 Anny Hidvégi는 평가 목록이 핵심 부분이라고 말했습니다. 보고서의 가장 중요한 점은 다음과 같습니다. "이 문서 세트는 실용적인 정보를 제공하는 데 도움이 됩니다. , AI의 잠재적 피해를 예방하고 최소화하는 방법에 대한 미래 지향적인 관점입니다."

“우리가 보기에 EU는 이 작업에서 선도적인 조직이 될 만큼 충분한 잠재력과 책임을 갖고 있습니다. 하지만 그 외에도 우리는 유럽연합이 도덕적 원칙에 그쳐서는 안 된다고 생각합니다. 앞으로는 AI 채굴 회사에 법을 준수하도록 요구하는 것을 고려해야 합니다.”라고 Hidvégi 씨는 덧붙였습니다.

다른 사람들은 윤리적 연구를 통해 글로벌 AI가 개발되는 방식을 형성하려는 EU의 시도가 많은 영향을 미칠 것이라는 데 회의적입니다.

“우리는 유럽의 선도적인 조직이 취하는 접근 방식에 회의적입니다. EU가 윤리적 AI 시스템에 대한 표준을 마련함으로써 글로벌 AI 산업 발전에서 입지를 다질 수 있다는 생각은 상대적으로 믿기 어렵습니다. 윤리적인 AI 규칙 형성의 리더가 되려면 EU가 먼저 AI 분야 전체의 리더가 되어야 합니다.”라고 유럽 데이터 혁신 센터의 수석 정책 분석가인 Eline Ch Pivot는 말했습니다.

• 60년 이상의 인공지능 개발 역사에서 중요한 이정표를 검토

이 문제에 대해 어떻게 생각하시나요? 아래 댓글 섹션에 의견을 남겨주세요!