AB: Yapay zeka sistemleri şeffaf ve sorumlu bir şekilde oluşturulmalı ve dağıtılmalıdır

Avrupa Birliği bugün resmi olarak hem işletmelerin hem de hükümetlerin yapay zeka projelerini gerçekten şeffaf, adil ve "etik" olacak şekilde geliştirme ve dağıtma konusunda nasıl takip etmeleri gerektiğine dair bir dizi kılavuz belge yayınladı.

• Teknoloji yöneticilerinin %91'i yapay zekanın bir sonraki teknoloji devriminin kalbinde yer alacağına inanıyor

Bu bana aniden Rus yazar Isaac Asimov'un 1942'de yazdığı "Runaround" adlı kısa öykü koleksiyonunda bahsettiği Robotik'in Üç Yasası adlı yasayı hatırlattı; ilkine benzer bir şey: Bir robotun insanlara zarar vermesine veya tehlikeleri görmezden gelmesine izin verilmez. insan yüzleşiyor. Madde 2: Bir robot, insanların verdiği emirlere, bu emirler birinci yasaya aykırı olmadığı sürece mutlaka uymak zorundadır. Üçüncüsü: Bir robot, birinci ve ikinci kanunlara aykırı olmamak kaydıyla, kendisini korumalıdır. Her ne kadar bu yaklaşık 80 yıl önce ortaya çıkan bir dizi "kurgu" kural olsa da, insanlar yavaş yavaş mevcut yapay zeka çağına girerken hala özellikle güncelliğini koruyor. Elbette AB'nin yayınlayacağı yeni kurallar dizisi temelde Isaac Asimov'un "Robotiğin Üç Yasası" yasasıyla aynı olmayacak. Avrupalı ​​yasa yapıcılar, katil robotları durdurmak gibi büyük konularda bize yardımcı olacak esnek bir etik çerçeve sağlayamıyor. Bunun yerine, AB'nin kılavuz belgeleri, yapay zekayı sağlık, eğitim ve tüketici teknolojisi gibi yaşamımızın birçok önemli alanına entegre ederken toplum üzerinde olumsuz etkisi olan "karanlık ve yaygın" sorunların ele alınmasına yardımcı oluyor.

• Facebook AI mühendisi, yapay zekaya yönelik derin öğrenme, yeni programlama dilleri ve donanımlardan bahsediyor

Basit bir örnek olarak, eğer bir tıbbi yapay zeka sistemi gelecekte kansere yakalanma riski yüksek olan bir kişiye teşhis koyarsa, AB kılavuzu aşağıdakilerden bazılarının yapılmasına yardımcı olacaktır: Yazılım, hastanın isteklerine göre önyargılı veya önyargılı olmamalıdır. ırkı veya cinsiyeti, aynı zamanda tıbbi durumu hakkında en açık ve şeffaf bilgiyi vermeli ve özellikle hastanın kararlarına müdahale etmemeli veya engellememelidir.

Yani evet, bu yönergeler esas olarak, yazar Asimov'un hayal gücüne göre öldürme eylemlerini önlemek yerine, yapay zeka modellerinin düzgün çalışmasını sınırlamak ve kontrol etmek üzerine odaklanıyor, ancak yalnızca idari ve bürokratik düzeyde.

• [İnfografik] Yapay Zeka yavaş yavaş insanların yerini aldığında gelecekteki işler

Bu kılavuz belgeleri oluşturmak için AB'nin 52 uzmandan oluşan bir grubu bir araya getirmesi ve onlardan gelecekteki yapay zeka sistemlerinin yanıtlayabilmesi gerektiğini düşündükleri 7 gereksinimi tartışmalarını, kabul etmelerini ve belirlemelerini istemesi gerekiyordu. Bu gereksinimler aşağıdaki gibidir:

1. Nihai izleme ve karar verme yeteneği hâlâ insanların elinde olmalıdır: Yapay zekanın insanın özerkliğini ve kendi kaderini tayin etme hakkını "ayaklar altına almasına" izin verilmemeli, daha doğrusu buna izin verilmemelidir. Tersine, insanlar yapay zeka sistemleri tarafından manipüle edilmemeli veya zorlanmamalıdır. Sonuçta insanlar, gerekli durumlarda yapay zeka yazılımının verdiği her karara müdahale etme veya izleme yeteneğine sahip olmalıdır.
2. Doğru, emniyetli ve emniyetli dağıtım teknikleri: İster laboratuvar ölçeğinde ister gerçekte konuşlandırıldığında her yapay zeka modeli iki faktörü sağlamalıdır: güvenlik ve doğruluk; bunlar: Önkoşullar. Başka bir deyişle, bir yapay zeka yazılımının kolayca tehlikeye atılmaması ve dış saldırıların eline geçmemesi, verdiği her kararın en makul şekilde kesinlikle güvenilir olması gerekir.
3. Gizliliğin ve veri yönetiminin sağlanması: Yapay zeka sistemleri tarafından toplanan kişisel veriler sıkı bir şekilde güvence altına alınmalı ve tamamen özel olmalıdır. Bu verilerin herhangi bir aktör tarafından ifşa edilmesine veya bu verilere erişilmesine izin verilmez ve kolayca çalınamaz veya kaybedilemez.
4. Şeffaflığın sağlanması: Yapay zeka sistemi oluşturmak için kullanılan veriler ve algoritmalar erişilebilir olmalı, ayrıca yazılımın aldığı kararlar da net bir şekilde sunulmalı ve açıklanmalıdır. Başka bir deyişle operatörler, yapay zeka sistemlerinin aldığı kararları somut ve mantıklı bir şekilde açıklayabilmelidir.
5. Çeşitliliği, ayrımcılık yapmamayı ve adaleti sağlayın: Yapay zeka destekli hizmetler yaş, cinsiyet, ırk veya diğer özelliklere bakılmaksızın herkesin kullanımına açık olmalıdır. Aynı zamanda yapay zekanın verdiği kararlar herhangi bir özelliğe veya nesneye yönelik önyargılı olmamalıdır.
6. Olumlu çevresel ve sosyal etki: Yapay zeka sistemleri sürdürülebilir bir şekilde dağıtılmalı ve geliştirilmelidir (yani ekolojik açıdan sorumlu olmalıdırlar) ve olumlu sosyal değişime katkıda bulunmalıdır.
7. Sorumluluk: Yapay zeka sistemleri denetlenmeli ve mevcut güvenlik önlemleriyle korunmalıdır. Başka bir deyişle, sistemin olumsuz etkisi (varsa) açıkça kabul edilmeli ve operatörler, yapay zeka sistemlerinin neden olduğu olumsuz etkilerden sorumlu tutulmalıdır.

Muhtemelen yukarıdaki iddialardan bazılarının oldukça soyut olduğunu ve nesnel anlamda değerlendirilmesinin zor olacağını fark edeceksiniz (örneğin, yapay zekanın getirdiği olumlu sosyal değişimin tanımı kişiden kişiye ve daha genel olarak ülkeler arasında büyük ölçüde değişecektir) ). Ancak geri kalan öğelerin çoğu genel olarak daha basit olup, yetkililerin gözetimi yoluyla kontrol edilip garanti altına alınabilmektedir. Örneğin, hükümetin yapay zeka sistemlerini eğitmek için kullanılan verileri paylaşmak, taraflı ve şeffaf olmayan algoritmalarla mücadele etmenin iyi bir yolu olabilir.

• [İnfografik] Yapay Zekanın yararları ve tehlikeleri

Bu AB kılavuz belgelerinin hükümleri açıkça yasal olarak bağlayıcı değildir ancak bunlar, Avrupa Birliği tarafından yapay zeka alanıyla ilgili olarak gelecekte hazırlanacak mevzuatı şekillendirmek için kullanılabilir. Geçmişte AB, Avrupa'yı "etik" yapay zeka modellerinin uygulanması ve bir dizi rehber belgenin yayınlanması konusunda dünyada öncü yapmak istediğini defalarca söylemişti. Bu, geniş kapsamlı yasa taslakları hazırlamaya hazır olduklarını açıkça gösteriyor. Dijital hakların düzenlenmesi ve korunması.

AB, temelinde etik standartlar bulunan bir yapay zeka endüstrisini şekillendirmek istiyor

"Etik" bir yapay zeka endüstrisi yaratma çabalarının bir parçası olarak, AB kılavuz belgesi, uzmanların yapay zekadaki zayıflıkları veya potansiyel tehlikeleri bulmasına yardımcı olabilecek terimlerin bir listesi olan "güvenilir bir yapay zeka değerlendirme listesi" oluşturmaya yönelik bir basamak taşı olarak görülebilir. Bu liste şu tür soruları içerebilir: "Yapay zeka sisteminizin karmaşık durumlarda ve ortamlarda nasıl performans gösterdiğini gösterebilir misiniz?" veya "Veri kümenizdeki verilerin türünü ve kapsamını değerlendirebilir misiniz?" ...

Elbette bu değerlendirme listesi yalnızca bir ön hazırlık niteliğinde; AB'nin yakın gelecekte yine şirketlerden ve yapay zeka uzmanlarından geri bildirim toplaması gerekecek. AB, 2020 gibi erken bir tarihte bu konuyla ilgili bir özet rapor yayınlayacak.

• Yapay zeka araştırmacıları insan benzeri makineler geliştirmeyi bıraktı

Dijital haklar grubu Access Now'da politika yöneticisi ve AB'nin rehberlik belgelerinin hazırlanmasından sorumlu 52 uzmandan biri olan Anny Hidvégi, değerlendirme listesinin kilit kısım olduğunu söyledi. Raporun en önemli noktası: "Bu belge dizisi, Yapay zekanın olası zararlarının nasıl önleneceği ve en aza indirileceği konusunda ileriye dönük bir bakış açısı."

“Bizim görüşümüze göre AB, bu çalışmada lider kuruluş olmaya yetecek potansiyele ve sorumluluğa sahiptir. Ama bunun yanında Avrupa Birliği'nin ahlaki ilkeler üzerinde durmaması gerektiğini de düşünüyoruz. Gelecekte yapay zeka madencilik şirketlerinin yasalara uymasını zorunlu kılmayı düşünmeliler” diye ekledi Bay Hidvégi.

Diğerleri ise AB'nin etik araştırmalar yoluyla küresel yapay zekanın nasıl geliştirileceğini şekillendirme girişiminin çok etkili olacağı konusunda şüpheci.

“Avrupa'nın önde gelen kuruluşunun yaklaşımı konusunda şüpheciyiz. AB'nin, etik yapay zeka sistemleri için altın bir standart oluşturarak küresel yapay zeka endüstrisinin gelişiminde kendine yer edinebileceği fikri oldukça uzak bir fikir. Avrupa Veri İnovasyon Merkezi'nden kıdemli politika analisti Eline Ch Pivot, "Etik yapay zeka kurallarını şekillendirmede lider olmak için AB'nin öncelikle bir bütün olarak yapay zeka alanında lider olması gerekiyor" dedi.

• 60 yılı aşkın yapay zeka gelişimi tarihindeki önemli kilometre taşlarının gözden geçirilmesi

Bu konu hakkında ne düşünüyorsunuz? Lütfen yorumlarınızı aşağıdaki yorum bölümüne bırakın!