UE: Os sistemas de IA devem ser construídos e implantados de forma transparente e responsável

A União Europeia emitiu hoje oficialmente um conjunto de documentos de orientação sobre como as empresas e os governos devem seguir no desenvolvimento e implementação dos seus projetos de inteligência artificial para que sejam verdadeiramente transparentes, justos e “éticos”.

• 91% dos gestores de tecnologia acreditam que a IA estará no centro da próxima revolução tecnológica

De repente, isso me lembra uma lei chamada Três Leis da Robótica, mencionada pelo escritor russo Isaac Asimov na coletânea de contos “Runaround” que ele compôs em 1942, algo como a primeira: Um robô não tem permissão para ferir humanos ou ignorar perigos que os humanos enfrentam. Artigo 2: Um robô deve obedecer absolutamente às ordens dadas pelos humanos, a menos que estas ordens entrem em conflito com a primeira lei. E terceiro: um robô deve proteger-se, desde que tal proteção não entre em conflito com a primeira e a segunda leis. Embora este seja apenas um conjunto de regras de “ficção” que apareceu há quase 80 anos, ainda é especialmente atual quando as pessoas estão gradualmente entrando na era atual da inteligência artificial. É claro que o novo conjunto de regras emitido pela UE não será fundamentalmente igual à lei das “Três Leis da Robótica” de Isaac Asimov. Os legisladores europeus não podem fornecer um quadro ético flexível que nos ajude a navegar em grandes coisas como deter os robôs assassinos. Em vez disso, os documentos de orientação da UE ajudam a resolver problemas “obscuros e generalizados” que têm um impacto negativo na sociedade à medida que integramos a IA em muitas áreas importantes das nossas vidas, como os cuidados de saúde, a educação e a tecnologia de consumo.

• Engenheiro de IA do Facebook fala sobre aprendizado profundo, novas linguagens de programação e hardware para inteligência artificial

A título de exemplo simples, se um sistema de IA médica diagnosticar uma pessoa com elevado risco de desenvolver cancro no futuro, as orientações da UE ajudarão a garantir que algumas das seguintes ações precisam de ser tomadas: O software não é tendencioso ou influenciado pelas opiniões do paciente raça ou sexo e, ao mesmo tempo, fornecer as informações mais claras e transparentes sobre sua condição médica e, principalmente, não interferir ou dificultar as decisões do paciente.

Então, sim, estas directrizes centram-se principalmente em limitar e controlar os modelos de IA para funcionarem correctamente, mas apenas a nível administrativo e burocrático, em vez de prevenir actos de matança de acordo com a imaginação do escritor Asimov.

• [Infográfico] Empregos futuros quando a Inteligência Artificial substituir gradualmente os humanos

Para produzir este conjunto de documentos de orientação, a UE teve de reunir um grupo de 52 peritos, pedindo-lhes que discutissem, concordassem e apresentassem 7 requisitos que consideram que os futuros sistemas de IA deveriam ter. Esses requisitos são os seguintes:

1. A capacidade final de monitorizar e tomar decisões ainda deve estar nas mãos dos seres humanos: a IA não deve, ou melhor, não deve ser autorizada a “pisar” na autonomia e autodeterminação humanas. Por outro lado, as pessoas não devem ser manipuladas ou coagidas por sistemas de IA. Afinal, os humanos devem ter a capacidade de intervir ou monitorar todas as decisões tomadas pelo software de IA em situações necessárias.
2. Técnicas de implantação precisas, seguras e protegidas: Cada modelo de IA quando implantado, seja em escala laboratorial ou na realidade, deve garantir dois fatores: segurança e precisão, que são: Pré-requisitos. Por outras palavras, um software de IA não deve ser facilmente comprometido e controlado por ataques externos, e cada decisão que toma deve ser absolutamente confiável da forma mais razoável.
3. Garantir a privacidade e a governação dos dados: Os dados pessoais recolhidos pelos sistemas de IA devem ser rigorosamente protegidos e totalmente privados. Estes dados não podem ser divulgados ou acedidos por qualquer interveniente e não podem ser facilmente roubados ou perdidos.
4. Garantir a transparência: Os dados e algoritmos utilizados para criar um sistema de IA devem ser acessíveis e as decisões tomadas pelo software também devem ser claramente apresentadas e explicadas. Por outras palavras, os operadores devem ser capazes de explicar as decisões que os seus sistemas de IA tomam de uma forma concreta e lógica.
5. Garantir a diversidade, a não discriminação e a justiça: os serviços alimentados pela IA devem estar disponíveis para todos, independentemente da idade, género, raça ou outras características. Ao mesmo tempo, as decisões tomadas pela IA não devem ser influenciadas por quaisquer características ou objetos.
6. Impacto ambiental e social positivo: os sistemas de IA devem ser implantados e desenvolvidos de forma sustentável (ou seja, devem ser ecologicamente responsáveis) e contribuir para mudanças sociais positivas.
7. Responsabilidade: Os sistemas de IA devem ser auditados e protegidos pelas salvaguardas existentes. Por outras palavras, o impacto negativo (se houver) do sistema deve ser reconhecido francamente e os operadores devem ser responsabilizados pelo impacto negativo que os seus sistemas de IA causam.

Você provavelmente notará que algumas das afirmações acima são bastante abstratas e seriam difíceis de avaliar em um sentido objetivo (por exemplo, a definição de mudança social positiva que a IA traz irá variar muito de pessoa para pessoa e, de forma mais ampla, entre países ). No entanto, a maioria dos restantes itens são geralmente mais simples e podem ser verificados e garantidos através da supervisão das autoridades. Por exemplo, a partilha de dados utilizados para treinar sistemas de IA governamentais pode ser uma boa forma de combater algoritmos tendenciosos e opacos.

• [Infográfico] Benefícios e perigos da Inteligência Artificial

As disposições destes documentos de orientação da UE claramente não são juridicamente vinculativas, mas poderiam ser utilizadas para moldar qualquer legislação futura elaborada pela União Europeia que contenha questões relacionadas com o domínio da IA. No passado, a UE afirmou repetidamente que pretende tornar a Europa pioneira no mundo na implantação de modelos “éticos” de IA e no lançamento de um conjunto de documentos de orientação. regulamentar e proteger os direitos digitais.

A UE quer moldar uma indústria de IA com padrões éticos no seu cerne

Como parte dos esforços para criar uma indústria de IA “ética”, o documento de orientação da UE pode ser visto como um trampolim para a criação de uma “lista confiável de avaliação de IA” – uma lista de termos que pode ajudar os especialistas a encontrar quaisquer pontos fracos ou perigos potenciais numa IA. software, mesmo que tenha sido implantado extensivamente. Esta lista pode incluir perguntas como: “Você pode demonstrar o desempenho do seu sistema de IA em situações e ambientes complexos?” ou “Você pode avaliar o tipo e o escopo dos dados em seu conjunto de dados?” ...

É claro que esta lista de avaliação é apenas preliminar, a UE ainda terá de recolher feedback de empresas e especialistas em inteligência artificial num futuro próximo. Já em 2020, a UE publicará um relatório resumido sobre esta questão.

• Pesquisadores de IA pararam de desenvolver máquinas semelhantes às humanas

Anny Hidvégi, gestora de políticas do grupo de direitos digitais Access Now e um dos 52 especialistas responsáveis ​​pela elaboração dos documentos de orientação da UE, disse que a lista de avaliação era a parte principal. O ponto mais importante do relatório: "Este conjunto de documentos ajuda a fornecer uma visão prática , perspectiva prospectiva sobre como prevenir e minimizar os danos potenciais da IA."

“Na nossa opinião, a UE tem potencial e responsabilidade suficientes para se tornar uma organização líder neste trabalho. Mas, além disso, pensamos também que a União Europeia não deve limitar-se aos princípios morais. Eles deveriam considerar exigir que as empresas de mineração de IA cumpram a lei no futuro”, acrescentou Hidvégi.

Outros estão céticos de que a tentativa da UE de moldar a forma como a IA global é desenvolvida através da investigação ética terá muito efeito.

“Estamos cépticos quanto à abordagem adoptada pela organização líder da Europa. A ideia de que, ao criar um padrão-ouro para sistemas éticos de IA, a UE será capaz de conquistar o seu lugar no desenvolvimento da indústria global de IA é relativamente absurda. Para se tornar líder na definição de regras éticas de IA, a UE deve primeiro tornar-se líder no campo da IA ​​como um todo”, partilhou Eline Ch Pivot, analista política sénior do Centro Europeu de Inovação de Dados.

• Revendo marcos importantes na história de mais de 60 anos de desenvolvimento da inteligência artificial

O que você pensa sobre esse assunto? Por favor, deixe seus comentários na seção de comentários abaixo!