La Unión Europea publicó hoy oficialmente un conjunto de documentos de orientación sobre cómo deben seguir tanto las empresas como los gobiernos en el desarrollo y despliegue de sus proyectos de inteligencia artificial para que sean verdaderamente transparentes, justos y "éticos".
Esto me recuerda de repente a una ley llamada Tres leyes de la robótica mencionada por el escritor ruso Isaac Asimov en la colección de cuentos "Runaround" que compuso en 1942, algo así como la primera: Un robot no puede dañar a los humanos ni ignorar los peligros que enfrentan los humanos. Artículo 2: Un robot debe obedecer absolutamente las órdenes dadas por los humanos a menos que estas órdenes entren en conflicto con la primera ley. Y tercero: un robot debe protegerse a sí mismo, siempre que dicha protección no entre en conflicto con la primera y la segunda ley. Aunque esto es sólo un conjunto de reglas "ficticias" que aparecieron hace casi 80 años, sigue siendo especialmente actual cuando la gente está entrando gradualmente en la era actual de la inteligencia artificial. Por supuesto, el nuevo conjunto de normas emitidas por la UE no será fundamentalmente igual a la ley de las "Tres Leyes de la Robótica" de Isaac Asimov. Los legisladores europeos no pueden proporcionar un marco ético flexible que nos ayude a afrontar grandes cosas como detener a los robots asesinos. En cambio, los documentos de orientación de la UE ayudan a abordar problemas "oscuros y generalizados" que tienen un impacto negativo en la sociedad a medida que integramos la IA en muchas áreas importantes de nuestra vida, como la atención médica, la educación y la tecnología de consumo.
Como ejemplo sencillo, si un sistema médico de IA diagnostica a una persona con alto riesgo de desarrollar cáncer en el futuro, las orientaciones de la UE ayudarán a garantizar que se deban realizar algunas de las siguientes cosas: El software no estará sesgado ni sesgado por la experiencia del paciente. raza o género, y al mismo tiempo proporcionar la más clara y transparente información sobre su condición médica, y en especial no debe interferir ni obstaculizar las decisiones del médico.
Entonces, sí, estas directrices se centran principalmente en limitar y controlar los modelos de IA para que funcionen correctamente, pero sólo a nivel administrativo y burocrático, en lugar de prevenir actos de asesinato, según la imaginación del escritor Asimov.
Para producir este conjunto de documentos de orientación, la UE tuvo que convocar a un grupo de 52 expertos, pidiéndoles que discutieran, acordaran y propongan 7 requisitos que, en su opinión, los futuros sistemas de IA deberían poder responder. Estos requisitos son los siguientes:
Probablemente notarás que algunas de las afirmaciones anteriores son bastante abstractas y serían difíciles de evaluar en un sentido objetivo (por ejemplo, la definición de cambio social positivo que aporta la IA variará mucho de persona a persona y, más ampliamente, entre países). ). Sin embargo, la mayoría de los elementos restantes son generalmente más sencillos y pueden controlarse y garantizarse mediante la supervisión de las autoridades. Por ejemplo, compartir datos utilizados para entrenar sistemas de inteligencia artificial gubernamentales podría ser una buena manera de combatir algoritmos opacos y sesgados.
Las disposiciones de estos documentos de orientación de la UE claramente no son legalmente vinculantes, pero podrían usarse para dar forma a cualquier legislación futura redactada por la Unión Europea que contenga información relacionada con el campo de la IA. En el pasado, la UE ha dicho repetidamente que quiere hacer de Europa un pionero en el mundo en el despliegue de modelos de IA "éticos" y el lanzamiento de un conjunto de documentos de orientación que muestran claramente que están dispuestos a redactar leyes de gran alcance. regular y proteger los derechos digitales.
La UE quiere dar forma a una industria de la IA basada en normas éticas
Como parte de los esfuerzos para crear una industria de IA “ética”, el documento de orientación de la UE podría verse como un trampolín para crear una “lista de evaluación de IA confiable”, una lista de términos que puede ayudar a los expertos a encontrar debilidades o peligros potenciales en una IA. software incluso si se ha implementado ampliamente. Esta lista puede incluir preguntas como: "¿Puede demostrar cómo funciona su sistema de IA en situaciones y entornos complejos?" o "¿Puede evaluar el tipo y alcance de los datos en su conjunto de datos?" ...
Por supuesto, esta lista de evaluación es sólo preliminar; la UE todavía tendrá que recopilar comentarios de empresas y expertos en inteligencia artificial en un futuro próximo. Ya en 2020, la UE publicará un informe resumido sobre esta cuestión.
Anny Hidvégi, responsable de políticas del grupo de derechos digitales Access Now y una de los 52 expertos responsables de elaborar los documentos de orientación de la UE, afirmó que la lista de evaluación era la parte clave. El punto más importante del informe: "Este conjunto de documentos ayuda a proporcionar una visión práctica , perspectiva prospectiva sobre cómo prevenir y minimizar el daño potencial de la IA".
“En nuestra opinión, la UE tiene suficiente potencial y responsabilidad para convertirse en una organización líder en este trabajo. Pero además de eso, también pensamos que la Unión Europea no debería limitarse a los principios morales. Deberían considerar exigir a las empresas mineras de IA que cumplan con la ley en el futuro”, añadió Hidvégi.
Otros se muestran escépticos de que el intento de la UE de dar forma a cómo se desarrolla la IA global a través de la investigación ética tenga mucho efecto.
“Somos escépticos sobre el enfoque adoptado por la organización líder en Europa. La idea de que al crear un estándar de oro para los sistemas éticos de IA, la UE podrá hacerse un lugar en el desarrollo de la industria global de la IA es relativamente descabellada. Para convertirse en líder en la configuración de normas éticas de IA, la UE debe primero convertirse en líder en el campo de la IA en su conjunto”, compartió Eline Ch Pivot, analista de políticas senior del Centro Europeo de Innovación de Datos.
¿Qué piensas sobre este asunto? ¡Deje sus comentarios en la sección de comentarios a continuación!
Una cadena de restaurantes de sushi japonesa llamada Dentsu Inc acaba de desarrollar con éxito una aplicación llamada Tuna Scope, que utiliza IA para evaluar la calidad del atún con un alto nivel de precisión, no inferior al de los chefs más experimentados.
Slack ha adoptado el modelo de negocio SaaS y ofrece varios planes diferentes para satisfacer las necesidades de su organización. He aquí un breve recorrido por las opciones.
Descubre Claude Pro, la versión premium de Claude AI Chatbot, y cómo se compara con ChatGPT Plus, optimizando tu experiencia en inteligencia artificial.
El organismo que une a los organismos nacionales de vigilancia de la privacidad de Europa dijo el jueves que había creado un grupo de trabajo dedicado a ChatGPT.
Científicos daneses y estadounidenses han colaborado para desarrollar un sistema de inteligencia artificial llamado life2vec, capaz de predecir el momento de la muerte humana con gran precisión.
Un algoritmo de inteligencia artificial llamado Audioflow puede escuchar el sonido de la micción para identificar de manera efectiva y exitosa los flujos anormales y los correspondientes problemas de salud del paciente.
El envejecimiento y la disminución de la población de Japón han dejado al país sin un número significativo de trabajadores jóvenes, especialmente en el sector de servicios.
Un usuario de Reddit llamado u/LegalBeagle1966 es uno de los muchos usuarios enamorados de Claudia, una chica con apariencia de estrella de cine que a menudo comparte seductores selfies, incluso desnudos, en esta plataforma.
Microsoft acaba de anunciar que 12 empresas tecnológicas más participarán en su programa AI for Good.
El usuario @mortecouille92 ha puesto a trabajar el poder de la herramienta de diseño gráfico Midjourney y ha creado versiones excepcionalmente realistas de personajes famosos de Dragon Ball como Goku, Vegeta, Bulma y el anciano Kame. .
