Google se une a esfuerzos para ayudar a detectar contenido creado con IA

Google, cuyo trabajo en inteligencia artificial ayudó a que el contenido generado por IA fuera mucho más fácil de crear y difundir, ahora quiere asegurarse de que dicho contenido también sea rastreable.

El gigante tecnológico dijo el jueves que se uniría a un esfuerzo para desarrollar credenciales para contenido digital, una especie de «etiqueta nutricional» que identifica cuándo y cómo se produjo o alteró una fotografía, un video, un clip de audio u otro archivo, incluso con AI La empresa colaborará con empresas como Adobe, la BBC, Microsoft y Sony para perfeccionar los estándares técnicos.

El anuncio sigue una promesa similar anunciada el martes por Meta, que al igual que Google ha permitido la fácil creación y distribución de contenido generado artificialmente. Meta dijo que promovería etiquetas estandarizadas que identificaran dicho material.

Google, que pasó años invirtiendo dinero en sus iniciativas de inteligencia artificial, dijo que exploraría cómo incorporar la certificación digital en sus propios productos y servicios, aunque no especificó su calendario ni su alcance. Su chatbot Bard está conectado a algunos de los servicios al consumidor más populares de la compañía, como Gmail y Docs. En YouTube, propiedad de Google y que se incluirá en el esfuerzo de la credencial digital, los usuarios pueden encontrar rápidamente videos con avatares digitales realistas que pontifican sobre eventos actuales con voces impulsadas por servicios de texto a voz.

Reconocer dónde se origina el contenido en línea y cómo cambia es una alta prioridad para los legisladores y los organismos de control tecnológico en 2024, cuando miles de millones de personas votarán en las principales elecciones en todo el mundo. Después de años de desinformación y polarización, las imágenes y el audio realistas producidos por inteligencia artificial y herramientas de detección de inteligencia artificial poco confiables hicieron que las personas dudaran aún más de la autenticidad de las cosas que veían y escuchaban en Internet.

Configurar archivos digitales para incluir un registro verificado de su historial podría hacer que el ecosistema digital sea más confiable, según quienes respaldan un estándar de certificación universal. Google se unirá al comité directivo de uno de esos grupos, la Coalición para la Procedencia y Autenticidad del Contenido, o C2PA. El Estándares C2PA han contado con el apoyo de organizaciones de noticias como The New York Times, así como de fabricantes de cámaras, bancos y agencias de publicidad.

Laurie Richardson, vicepresidenta de confianza y seguridad de Google, dijo en un comunicado que la compañía esperaba que su trabajo «proporcionara un contexto importante a las personas, ayudándolas a tomar decisiones más informadas». Destacó los otros esfuerzos de Google para brindar a los usuarios más información sobre el contenido en línea que encontraron, incluido el etiquetado de material de IA en YouTube y la oferta de detalles sobre imágenes en la Búsqueda.

Los esfuerzos por adjuntar credenciales a los metadatos (la información subyacente incorporada en los archivos digitales) no son perfectos.

AbiertoAI dijo esta semana que sus herramientas de generación de imágenes de IA pronto agregarían marcas de agua a las imágenes de acuerdo con los estándares C2PA. A partir del lunes, dijo la compañía, las imágenes generadas por su chatbot en línea, ChatGPT, y la tecnología independiente de generación de imágenes, DALL-E, incluirán una marca de agua visual y metadatos ocultos diseñados para identificarlas como creadas por inteligencia artificial. La medida, sin embargo, «no es una solución milagrosa para abordar cuestiones de procedencia», dijo OpenAI, y agregó que las etiquetas «pueden eliminarse fácilmente, ya sea accidental o intencionalmente».

(The New York Times Company está demandando a OpenAI y Microsoft por infracción de derechos de autor, acusando a las empresas de tecnología de utilizar artículos del Times para entrenar sistemas de IA).

Existe «un sentido compartido de urgencia» para reforzar la confianza en el contenido digital, según una publicación de blog el mes pasado de Andy Parsons, director senior de la Iniciativa de Autenticidad de Contenido de Adobe. La compañía lanzó herramientas de inteligencia artificial el año pasado, incluido su software de generación de arte con inteligencia artificial Adobe Firefly y una herramienta de Photoshop conocida como relleno generativo, que utiliza inteligencia artificial para expandir una fotografía más allá de sus fronteras.

“Lo que está en juego nunca ha sido tan grande”, escribió Parsons.

Cade Metz contribuyó con informes.