La versión preliminar del código presenta una taxonomía de riesgos sistemáticos de IA,en la cual se encuentran los delitos cibernéticos,riesgos químicos,biológicos,radiológicos y nucleares,de manipulación,entre otros más.
Comparte
La Comisión Europea (CE) publicó el borrador del código de buenas prácticas para el uso y desarrollo de Inteligencia Artificial (IA) de propósito general,que ha estado desarrollando junto con especialistas independientes y con base en los modelos de IA existentes.
El borrador contempla reglas de transparencia,derechos de autor,una taxonomía de riesgos,reglas de gestión de riesgos sistemáticos y lineamientos sobre la mitigación de riesgos,entre otros elementos.
Por ejemplo,en materia de transparencia,el documento señala que los proveedores de modelos de IA de propósito general deben dar a conocer y mantener actualizada la información relativa a su modelo,incluyendo los procesos de entrenamiento,prueba y los resultados de evaluación.
Te recomendamos: G7 publica código para mitigar riesgos de sistemas avanzados de IA
Sin perjudicar la necesidad de observar y proteger los derechos de propiedad intelectual ni información de negocios confidencial o secretos comerciales,las empresas deben brindar información que transparente el funcionamiento de sus modelos.
En cuanto a los derechos de autor,los proveedores deben cumplir con las leyes de la Unión Europea durante todo el ciclo de vida de sus modelos de IA,incluso cuando se usen nuevas fuentes de datos de entrenamientos.
La versión preliminar del código contempla una taxonomía de los riesgos sistemáticos de la Inteligencia Artificial como base para llevar a cabo medidas de prevención y mitigación.
Dicha taxonomía abarca las siguientes categorías:
Delitos cibernéticos: riesgos relacionados con capacidades cibernéticas ofensivas,como el descubrimiento o la explotación de vulnerabilidades.
Riesgos químicos,radiológicos y nucleares: riesgos de la ciencia de doble uso que permiten ataques con armas químicas,biológicas,radiológicas y nucleares mediante,entre otras cosas,el desarrollo,el diseño,la adquisición y el uso de armas.
Pérdida de control: problemas relacionados con la incapacidad de controlar modelos de IA de propósito general poderosos y autónomos.
Uso automatizado de modelos para la investigación y el desarrollo de IA: esto podría aumentar en gran medida el ritmo de desarrollo de la IA,lo que podría conducir a desarrollos impredecibles de modelos de IA de propósito general con riesgo sistémico.
Persuasión y manipulación: facilitación de la persuasión y la manipulación a gran escala,así como la desinformación o la información errónea a gran escala con riesgos para los valores democráticos y los derechos humanos,como la interferencia electoral,la pérdida de confianza en los medios de comunicación y la homogeneización o simplificación excesiva del conocimiento.
Discriminación a gran escala: discriminación ilegal a gran escala de individuos,comunidades o sociedades.
Un riesgo sistemático,según la conceptualización de la Comisión Europea,se evalúa siguiendo atributos clave en cuanto a su origen,los actores que impulsan el riesgo,la intención,la novedad,la relación de gravedad,la velocidad en la que se materializa,la visibilidad y el curso de los acontecimientos.
Destacado: OpenAI advierte sobre los riesgos de persuasión y dependencia emocional en su modelo GPT-4o
Bruselas prevé que existe sólo un pequeño número de modelos de IA de propósito general con riesgos sistemáticos y un puñado de proveedores de estos sistemas.
Sin embargo,debido al potencial impacto que puede tener este tipo de riesgos,la Comisión considera necesario implementar una taxonomía que los identifique y dé paso a acciones para evitar los riesgos.
La CE dijo que el primer borrador del código tomó en cuenta los enfoques internacionales sobre las amenazas vinculadas a la IA.
Por el momento,la Comisión Europea abrió una consulta pública para que las partes interesadas envíen sus comentarios acerca de la propuesta.
La próxima semana,en el marco de la sesión plenaria sobre el Código de buenas prácticas,se discutirá el proyecto en reuniones de grupos de trabajo específicos. Luego,el viernes 22 de noviembre,los presidentes de dichos equipos presentarán las principales conclusiones de los debates ante el pleno.