EU: KI-Systeme sollten auf transparente und verantwortungsvolle Weise aufgebaut und eingesetzt werden

Die Europäische Union hat heute offiziell eine Reihe von Leitliniendokumenten herausgegeben, die zeigen, wie sowohl Unternehmen als auch Regierungen bei der Entwicklung und Umsetzung ihrer Projekte im Bereich der künstlichen Intelligenz vorgehen sollten, damit diese wirklich transparent, fair und „ethisch“ sind.

• 91 % der Technologiemanager glauben, dass KI das Herzstück der nächsten Technologierevolution sein wird

Das erinnert mich plötzlich an ein Gesetz namens „Drei Gesetze der Robotik“, das der russische Schriftsteller Isaac Asimov in der von ihm 1942 verfassten Kurzgeschichtensammlung „Runaround“ erwähnte, etwa wie das erste: Ein Roboter darf Menschen keinen Schaden zufügen oder Gefahren ignorieren Gesicht des Menschen. Artikel 2: Ein Roboter muss den von Menschen gegebenen Befehlen unbedingt gehorchen, es sei denn, diese Befehle stehen im Widerspruch zum ersten Gesetz. Und drittens: Ein Roboter muss sich selbst schützen, sofern dieser Schutz nicht im Widerspruch zum ersten und zweiten Gesetz steht. Obwohl es sich hier lediglich um eine Reihe von „fiktiven“ Regeln handelt, die vor fast 80 Jahren erschienen sind, ist sie immer noch besonders aktuell, wenn Menschen allmählich in die aktuelle Ära der künstlichen Intelligenz eintreten. Natürlich wird das neue Regelwerk der EU grundsätzlich nicht mit dem „Drei Gesetze der Robotik“-Gesetz von Isaac Asimov übereinstimmen. Die europäischen Gesetzgeber können keinen flexiblen ethischen Rahmen bieten, der uns dabei helfen würde, große Dinge wie das Stoppen von Killerrobotern zu bewältigen. Stattdessen helfen die Leitliniendokumente der EU dabei, „dunkle und allgegenwärtige“ Probleme anzugehen, die sich negativ auf die Gesellschaft auswirken, wenn wir KI in viele wichtige Bereiche unseres Lebens integrieren, wie etwa das Gesundheitswesen, die Bildung und die Verbrauchertechnologie.

• Facebook-KI-Ingenieur spricht über Deep Learning, neue Programmiersprachen und Hardware für künstliche Intelligenz

Als einfaches Beispiel: Wenn ein medizinisches KI-System eine Person diagnostiziert, bei der ein hohes Risiko besteht, in Zukunft an Krebs zu erkranken, werden die EU-Leitlinien dazu beitragen, sicherzustellen, dass einige der folgenden Maßnahmen ergriffen werden müssen: Die Software wird nicht vom Patienten beeinflusst oder beeinflusst Rasse oder Geschlecht angeben und gleichzeitig die klarsten und transparentesten Informationen über seinen Gesundheitszustand bereitstellen und insbesondere nicht in die Entscheidungen des Patienten eingreifen oder diese behindern. Arzt.

Ja, diese Richtlinien konzentrieren sich hauptsächlich darauf, KI-Modelle einzuschränken und zu kontrollieren, damit sie ordnungsgemäß funktionieren, allerdings nur auf administrativer und bürokratischer Ebene. Anstatt Tötungshandlungen zu verhindern, so die Vorstellung des Autors Asimov.

• [Infografik] Zukünftige Arbeitsplätze, wenn künstliche Intelligenz den Menschen nach und nach ersetzt

Um diese Leitliniendokumente zu erstellen, musste die EU eine Gruppe von 52 Experten einberufen und sie bitten, sieben Anforderungen zu diskutieren, zu vereinbaren und zu erarbeiten, die ihrer Meinung nach zukünftige KI-Systeme erfüllen sollten. Diese Anforderungen lauten wie folgt:

1. Die letztendliche Fähigkeit zur Überwachung und Entscheidungsfindung muss weiterhin in den Händen des Menschen liegen: KI darf bzw. darf die Autonomie und Selbstbestimmung des Menschen nicht „mit Füßen treten“. Umgekehrt sollten Menschen nicht durch KI-Systeme manipuliert oder gezwungen werden. Schließlich muss der Mensch in der Lage sein, jede Entscheidung, die KI-Software in notwendigen Situationen trifft, einzugreifen oder zu überwachen.
2. Präzise, ​​sichere und geschützte Bereitstellungstechniken: Jedes KI-Modell muss bei der Bereitstellung, sei es im Labormaßstab oder in der Realität, zwei Faktoren gewährleisten: Sicherheit und Genauigkeit. Diese sind: Voraussetzungen. Mit anderen Worten: Eine KI-Software sollte nicht leicht von externen Angriffen kompromittiert und übernommen werden können, und jede von ihr getroffene Entscheidung sollte auf die vernünftigste Art und Weise absolut vertrauenswürdig sein.
3. Gewährleistung von Datenschutz und Datenverwaltung: Von KI-Systemen erfasste personenbezogene Daten müssen streng geschützt und vollständig vertraulich sein. Diese Daten dürfen von keinem Akteur offengelegt oder abgerufen werden und können nicht leicht gestohlen werden oder verloren gehen.
4. Transparenz gewährleisten: Die zur Erstellung eines KI-Systems verwendeten Daten und Algorithmen sollten zugänglich sein, außerdem sollten die von der Software getroffenen Entscheidungen klar dargestellt und erläutert werden. . Mit anderen Worten: Betreiber müssen in der Lage sein, die Entscheidungen ihrer KI-Systeme konkret und logisch zu erklären.
5. Sorgen Sie für Vielfalt, Nichtdiskriminierung und Gerechtigkeit: KI-gestützte Dienste müssen für alle verfügbar sein, unabhängig von Alter, Geschlecht, Rasse oder anderen Merkmalen. Gleichzeitig dürfen die Entscheidungen, die KI trifft, nicht auf Merkmale oder Objekte ausgerichtet sein.
6. Positive ökologische und soziale Auswirkungen: KI-Systeme müssen nachhaltig eingesetzt und entwickelt werden (d. h. sie müssen ökologisch verantwortlich sein) und zu einem positiven gesellschaftlichen Wandel beitragen.
7. Verantwortung: KI-Systeme müssen geprüft und durch bestehende Schutzmaßnahmen geschützt werden. Mit anderen Worten: Die negativen Auswirkungen (falls vorhanden) des Systems sollten offen anerkannt werden und die Betreiber sollten für die negativen Auswirkungen, die ihre KI-Systeme verursachen, zur Verantwortung gezogen werden.

Sie werden wahrscheinlich feststellen, dass einige der oben genannten Behauptungen recht abstrakt sind und schwer objektiv zu bewerten wären (z. B. wird die Definition eines positiven sozialen Wandels, den KI mit sich bringt, von Person zu Person und im weiteren Sinne von Land zu Land sehr unterschiedlich sein). ). Die meisten übrigen Punkte sind jedoch in der Regel einfacher und können durch behördliche Aufsicht überprüft und gewährleistet werden. Beispielsweise könnte die gemeinsame Nutzung von Daten, die zum Trainieren staatlicher KI-Systeme verwendet werden, eine gute Möglichkeit sein, voreingenommene, undurchsichtige Algorithmen zu bekämpfen.

• [Infografik] Vorteile und Gefahren der künstlichen Intelligenz

Die Bestimmungen dieser EU-Leitlinien sind eindeutig nicht rechtsverbindlich, könnten aber zur Gestaltung zukünftiger Gesetzesentwürfe der Europäischen Union im Zusammenhang mit dem Bereich KI herangezogen werden. Die EU hat in der Vergangenheit wiederholt erklärt, dass sie Europa zu einem weltweiten Vorreiter beim Einsatz „ethischer“ KI-Modelle machen will, und eine Reihe von Leitliniendokumenten herausgebracht. Dies zeigt deutlich, dass sie bereit ist, weitreichende Gesetze auszuarbeiten Regulierung und Schutz digitaler Rechte.

Die EU möchte eine KI-Industrie gestalten, deren Kern ethische Standards sind

Als Teil der Bemühungen, eine „ethische“ KI-Industrie zu schaffen, könnte das EU-Leitdokument als Sprungbrett für die Erstellung einer „vertrauenswürdigen KI-Bewertungsliste“ angesehen werden – einer Liste von Begriffen, die Experten dabei helfen können, etwaige Schwächen oder potenzielle Gefahren einer KI zu finden Software, auch wenn sie umfassend eingesetzt wurde. Diese Liste kann Fragen enthalten wie: „Können Sie demonstrieren, wie Ihr KI-System in komplexen Situationen und Umgebungen funktioniert?“ oder „Können Sie die Art und den Umfang der Daten in Ihrem Datensatz bewerten?“ ...

Natürlich ist diese Bewertungsliste nur vorläufig, die EU muss in naher Zukunft noch Feedback von Unternehmen und Experten für künstliche Intelligenz einholen. Bereits 2020 wird die EU einen zusammenfassenden Bericht zu diesem Thema veröffentlichen.

• KI-Forscher haben aufgehört, menschenähnliche Maschinen zu entwickeln

Anny Hidvégi, Politikmanagerin bei der Gruppe für digitale Rechte Access Now und eine von 52 Experten, die für die Erstellung der EU-Leitliniendokumente verantwortlich sind, sagte, die Bewertungsliste sei der entscheidende Teil. Der wichtigste Punkt des Berichts: „Diese Reihe von Dokumenten hilft dabei, eine praktische Lösung zu finden.“ , zukunftsweisende Perspektive, wie der potenzielle Schaden von KI verhindert und minimiert werden kann.“

„Unserer Ansicht nach verfügt die EU über genügend Potenzial und Verantwortung, um bei dieser Arbeit eine führende Organisation zu werden. Aber darüber hinaus sind wir auch der Meinung, dass die Europäische Union nicht bei moralischen Prinzipien stehen bleiben sollte. Sie sollten darüber nachdenken, KI-Bergbauunternehmen in Zukunft zur Einhaltung des Gesetzes zu verpflichten“, fügte Herr Hidvégi hinzu.

Andere sind skeptisch, dass der Versuch der EU, die Entwicklung globaler KI durch ethische Forschung zu beeinflussen, große Auswirkungen haben wird.

„Wir stehen dem Vorgehen der führenden Organisation Europas skeptisch gegenüber. Die Vorstellung, dass die EU durch die Schaffung eines Goldstandards für ethische KI-Systeme ihren Platz in der Entwicklung der globalen KI-Industrie festigen kann, ist relativ weit hergeholt. „Um eine Führungsrolle bei der Gestaltung ethischer KI-Regeln zu übernehmen, muss die EU zunächst eine Führungsrolle im gesamten Bereich der KI übernehmen“, erklärte Eline Ch Pivot, leitende Politikanalystin am European Data Innovation Centre.

• Rückblick auf wichtige Meilensteine ​​in der mehr als 60-jährigen Geschichte der Entwicklung künstlicher Intelligenz

Was denken Sie über dieses Problem? Bitte hinterlassen Sie Ihre Kommentare im Kommentarbereich unten!