La OCDE detecta avances en transparencia y gestión de riesgos en el desarrollo de la IA

Santo Domingo ‌| R.D.

La Organización para la Cooperación y el Desarrollo Económicos (OCDE) reveló en un informe reciente que los principales desarrolladores de inteligencia artificial están adoptando medidas más sofisticadas para evaluar, mitigar y transparentar los riesgos asociados a la IA.

El estudio se basa en los informes voluntarios de transparencia del Proceso de IA de Hiroshima del G7, en los que participaron compañías tecnológicas de alcance global como Anthropic, Google, Microsoft, NTT, OpenAI, Salesforce y Fujitsu, además de centros académicos y de investigación.

Entre los hallazgos, se destacan:

• Avances en pruebas adversas y el uso de herramientas asistidas por IA para analizar el comportamiento de los modelos.
• Prácticas más desarrolladas en grandes tecnológicas para evaluar riesgos sistémicos y sociales.
• Reconocimiento creciente del valor de compartir información para generar confianza, facilitar el aprendizaje entre pares y fomentar la innovación.

No obstante, la OCDE advierte que las herramientas de procedencia técnica —como marcas de agua, firmas criptográficas o credenciales de contenido— todavía son limitadas y solo aplicadas de forma consistente en algunas grandes empresas.

El informe subraya que la transparencia es clave para acelerar la adopción de la IA, reducir la fragmentación regulatoria y difundir buenas prácticas también entre las pequeñas y medianas empresas.

Según Jerry Sheehan, Director de Ciencia, Tecnología e Innovación de la OCDE, estos reportes pueden crear un terreno común para la innovación y reforzar la confianza pública en la IA. Por su parte, Amanda Craig, Directora Sénior de Políticas Públicas Responsables de IA de Microsoft, afirmó que este marco puede servir como referencia para el futuro, a medida que evolucionen tanto la tecnología como las normas de gobernanza.

El marco voluntario fue desarrollado bajo la Presidencia italiana del G7 en 2024, con la participación de empresas, academia y sociedad civil, y complementa el Proceso de Hiroshima sobre IA, iniciado en 2023.

La OCDE reiteró que la cooperación internacional y la alineación regulatoria son esenciales para asegurar que la inteligencia artificial se desarrolle de forma segura, confiable y al servicio del bienestar humano.

Fuente: OCDE