Google etiquetará en sus resultados de búsqueda aquellas fotos creadas con inteligencia artificial (IA), las manipuladas o editadas y las imágenes originales tomadas por un fotógrafo. Bajo el estándar C2PA, pretende ampliar esta medida a Google Ads y a YouTube.

ESTA FOTO ES FAKE. Imagen creada por IA, que se recrea la falsa detención de Donald Trump. — ESTA FOTO ES FAKE. Imagen creada por IA, que se recrea la **falsa detención** de Donald Trump.

Google no sólo trabaja en su propia marca de agua para detectar contenido generado por inteligencia artificial, frente al creado por las personas.

Además de SynthID, se está aliando con otros estándares para tal fin, debido a los problemas de reputación, publicitarios y dispersión de desinformación que puede tener dentro de todos sus ecosistemas.

En este sentido, planea etiquetar, bajo C2PA (Coalition for Content Provenance and Authenticity), todas las fotos que indexa en su buscador para alertar al usuario si la autoría es humana, si la imagen ha sido editada o manipulada por un programa fotográfico o si la creó una IA, según informa en un comunicado en su blog corporativo.

¿Qué es el estándar C2PA?

Así, Google adopta el estándar C2PA para lograr dicho objetivo . El C2PA es un protocolo desarrollado por varias empresas tecnológicas para combatir la desinformación en internet y el fraude online.

Anuncios

Este estándar permite:

Incorporar metadatos en materiales visuales y de audio
Verificar el origen y la información relacionada con el contenido
Utilizar criptografía para asegurar la autenticidad de la información

ALPHABET planea extender C2PA a Google Ads y YouTube

Bajo dicho estándar, en los próximos meses, Google planea integrar la versión 2.1 de C2PA en varios de sus productos :

Resultados de búsqueda: Se actualizará la función «Acerca de esta imagen» para mostrar información sobre cómo se creó o editó una imagen.
Google Images, Lens y Circle to Search (Rodea para Buscar): Los usuarios podrán acceder a los metadatos de C2PA a través de estas herramientas.
Anuncios de Google: Se incorporarán metadatos de C2PA para mostrar si el contenido de un anuncio ha sido generado o editado por IA.
Google también pretende incorporar este etiquetado en YouTube para final de año.

Desafíos y limitaciones de C2PA

Para Google, sin embargo, existen algunos desafíos en la implementación de esta tecnología C2PA. No en vano, actualmente, solo algunas cámaras (como Leica y Sony) y software de edición (como Photoshop y Lightroom) soportan el estándar.

De esta manera, se requiere que más fabricantes de dispositivos y desarrolladores de software adopten este marcado para que sea verdaderamente efectivo. Además, algunos críticos señalan que las etiquetas de C2PA podrían ser susceptibles a la manipulación.

El etiquetado de fotos hechas con IA se da en Acerca de esta imagen

Por otra parte, este etiquetado en las fotos indexadas en su buscador contará con poca visibilidad dentro de los resultados de búsqueda. Queda por ver cuántos usuarios utilizarán la opción ad hoc en Acerca de esta imagen.

Esta funcionalidad permitirá, no obstante, lo siguiente:

Si una imagen contiene metadatos de C2PA, los usuarios podrán acceder a ellos desde esta función.
Al pulsar en Acerca de esta imagen, se mostrará información sobre si la foto fue capturada con una cámara, editada con software como Photoshop, o creada directamente por IA generativa

¿Cómo funciona C2PA y cómo detecta fotos creadas por IA?

Como mencionamos, la efectividad de C2PA depende en gran medida de su adopción generalizada por parte de creadores de contenido, plataformas y fabricantes de dispositivos.

El estándar C2PA, no en vano, funciona de la siguiente manera:

Firma criptográfica: Cuando se crea un contenido digital, se le aplica una firma criptográfica que incluye información sobre su procedencia. Esta firma contiene datos como quién creó el contenido, cuándo se creó y cualquier modificación realizada.
Incrustación de metadatos: La firma criptográfica y los metadatos asociados se incrustan directamente en el archivo del contenido digital. Esto permite que la información de procedencia viaje con el contenido.
Verificación: Cuando un usuario visualiza el contenido, puede utilizar un visor compatible con C2PA para verificar la firma y acceder a la información de procedencia. Si la firma es válida, el usuario podrá ver los detalles sobre el origen y las modificaciones del contenido.
Protección criptográfica: Los metadatos están protegidos criptográficamente, lo que significa que cualquier alteración en el contenido o en los metadatos alertaría a un algoritmo de que el contenido ya no se puede autenticar.
Interoperabilidad: El estándar está diseñado para ser de código abierto e interoperable, permitiendo que diferentes plataformas y dispositivos puedan leer y verificar la información de procedencia.
Aplicación en diversos medios: Aunque inicialmente se está aplicando principalmente a imágenes, el estándar C2PA está diseñado para funcionar con diversos tipos de contenido digital, incluyendo audio y video.
Integración en plataformas: Empresas como Google están integrando C2PA en sus productos. Por ejemplo, en los resultados de búsqueda de Google, la función «Acerca de esta imagen» mostrará información de C2PA si está disponible.