in

OpenAI anuncia plan para prevenir desinformación electoral con sus herramientas de IA

Superiberia

OpenAI, la empresa detrás de ChatGPT, ha delineado un plan para evitar el uso indebido de sus avanzadas herramientas de inteligencia artificial en el contexto electoral. En un año donde votantes de más de 50 países se preparan para participar en elecciones nacionales, la compañía con sede en San Francisco busca mitigar los riesgos de la desinformación.

Las medidas de protección presentadas por OpenAI abarcan políticas existentes y nuevas iniciativas, con el objetivo de prevenir la utilización indebida de sus populares herramientas de IA generativa. Estas herramientas son capaces de generar textos e imágenes de manera rápida, pero también pueden ser empleadas para crear mensajes engañosos o imágenes falsas que parecen auténticas.

En su blog, la startup detalla que estas medidas se aplicarán exclusivamente a OpenAI, una entre varias empresas que desarrollan tecnologías avanzadas de IA generativa. Anunciadas recientemente, estas acciones incluyen la prohibición de utilizar la tecnología para crear chatbots que se hagan pasar por candidatos o gobiernos reales, distorsionar el funcionamiento del sistema de votación o desalentar la participación electoral.

Desde principios de este año, OpenAI implementará marcas de agua digitales en las imágenes generadas por su herramienta DALL-E. Esta marca permitirá identificar fácilmente el origen de la imagen y determinar si ha sido creada utilizando la tecnología de IA de OpenAI.

La compañía también ha revelado su colaboración con la Asociación Nacional de Secretarios de Estado para dirigir a los usuarios de ChatGPT que realicen preguntas logísticas sobre elecciones hacia información confiable disponible en CanIVote.org, el sitio web no partidista de ese grupo.

Aunque los planes de OpenAI son considerados un paso positivo en la lucha contra la desinformación electoral, la eficacia dependerá de la implementación detallada de los filtros y la exhaustividad en la identificación de posibles problemas, según Mekela Panditharatne, asesora del programa de democracia del Centro Brennan para la Justicia.

ChatGPT y DALL-E de OpenAI son algunas de las herramientas de IA generativa más potentes hasta la fecha, y este anuncio destaca el compromiso de la empresa en promover un uso ético y responsable de su tecnología. Sin embargo, resalta la necesidad de que otras empresas con tecnologías similares también implementen medidas efectivas contra la desinformación electoral.

CANAL OFICIAL

Fuerzas Federales intensifican operativos en municipios de la región

Celebran misa de mascotas en la Catedral de la Inmaculada Concepción