Youtube y su enfoque hacia la innovación responsable con Inteligencia Artificial

La Inteligencia Artificial generativa tiene el potencial de desbloquear la creatividad en YouTube y transformar la experiencia  de los espectadores y creadores en la plataforma. Sin embargo, es igualmente importante que estas oportunidades se equilibren con la responsabilidad de proteger a la comunidad de YouTube. Todo el contenido que se carga  está sujeto a los Lineamientos de la Comunidad, independientemente de cómo se genere. La plataforma sabe que esta tecnología puede introducir nuevos riesgos y requerirá nuevos enfoques.

YouTube se encuentra en las primeras etapas de su trabajo y continúa evolucionando en su enfoque y aprendizaje. A continuación, YouTube presenta un vistazo de lo que implementará en los próximos meses y durante el siguiente año.

Requisitos de divulgación y nuevas etiquetas de contenido

YouTube considera que es importante mantener un ecosistema de información saludable en la plataforma. Por ello, cuenta con políticas longevas que prohíben el contenido técnicamente manipulado que engañe a los espectadores y pueda representar un riesgo grave. Sin embargo, las nuevas y poderosas formas de contar historias, a través de la Inteligencia Artificial, también pueden usarse para generar contenido con el potencial de engañar a los espectadores, especialmente si no saben que el video ha sido manipulado o creado sintéticamente.

Para abordar esta preocupación, en los próximos meses, YouTube implementará actualizaciones que  informarán a las personas cuando el contenido que están viendo es artificial. En ese sentido, se requerirá a los creadores que revelen cuando han creado contenido manipulado, que luzca realista, incluso utilizando herramientas de Inteligencia Artificial, a través de nuevas opciones para que seleccionen e indiquen si el material fue modificado con tecnología.

Esto es especialmente importante en los casos en que el contenido aborda temas sensibles, como elecciones, conflictos en curso y crisis de salud pública, o funcionarios públicos. Los creadores que no revelen esta información pueden estar sujetos a la eliminación de contenido, la suspensión del Programa de socios de YouTube u otras sanciones. YouTube trabajará con los creadores antes de que esto se implemente para asegurar la  comprensión de estos nuevos requisitos.

La plataforma informará a los espectadores que el contenido puede ser artificial de dos maneras. La primera, se agregará una nueva etiqueta al panel de descripción que indica que parte del contenido fue alterado o generado digitalmente. Y para ciertos tipos de contenido sobre temas sensibles, se aplicará una etiqueta más prominente al reproductor de video.

Hay algunas áreas en las que una etiqueta por sí sola puede no ser suficiente para mitigar el riesgo de daño, y algunos medios sintéticos, independientemente de si están etiquetados o no, se eliminarán de la plataforma si violan los Lineamientos de la Comunidad.

Y en el futuro, a medida que se implementen estas nuevas actualizaciones, el contenido creado por los productos y funciones de Inteligencia Artificial generativa de YouTube se etiquetará claramente cómo: generado por Inteligencia Artificial.

Nuevas opciones para creadores, espectadores y artistas

En los próximos meses se permitirá solicitar la eliminación de contenido generado por Inteligencia Artificial generativa u otro contenido modificado que simule a un individuo identificable, incluida su cara o voz, mediante el proceso de Reclamo de Privacidad. No todo el contenido se eliminará de YouTube, y se considerará una variedad de factores al evaluar estas solicitudes. Esto podría incluir si el contenido es una parodia o sátira, si la persona que realiza la solicitud puede ser identificada de manera única, o si presenta a un funcionario público o individuo conocido, en cuyo caso puede haber un estándar más alto.

También YouTube está introduciendo la capacidad para que sus socios musicales soliciten la eliminación de contenido de música generado por Inteligencia Artificial que imita la voz de canto o el estilo de rap único de un artista. Al determinar si conceder una solicitud de eliminación, se considerarán factores como si el material es objeto de informes de noticias, análisis o crítica de las voces sintéticas. Estas solicitudes de eliminación estarán disponibles para los sellos discográficos o distribuidores que representan a los artistas que participan en los primeros experimentos de música con Inteligencia Artificial en YouTube. En los próximos meses, se ampliará el acceso a disqueras y distribuidores adicionales.

Implementación de tecnología con Inteligencia Artificial para impulsar la moderación de contenido

YouTube siempre ha utilizado una combinación de personas y tecnologías de aprendizaje automático para hacer cumplir estos Lineamientos de la Comunidad, con más de 20 mil supervisores en Google que operan en todo el mundo. En los sistemas, los clasificadores de IA ayudan a detectar contenido potencialmente violatorio a gran escala, y los verificadores trabajan para confirmar si el contenido realmente ha cruzado los límites de las políticas. Esta tecnología está aumentando continuamente, tanto en velocidad como en la precisión de los sistemas de moderación de contenido.

Uno de los claros efectos ha sido la identificación de nuevas formas de abuso. Cuando surgen nuevas amenazas, los sistemas tienen relativamente poco contexto para comprenderlas e identificarlas a gran escala. Pero la Inteligencia Artificial generativa contribuye a expandir rápidamente el conjunto de información con el que se entrenan los clasificadores de esta herramienta, lo que significa que se puede identificar y capturar este contenido mucho más rápido. La mejora de velocidad y precisión de los sistemas también permiten reducir la cantidad de contenido dañino al que están expuestos los supervisores humanos.

Integrando la responsabilidad en las herramientas y funciones de Inteligencia Artificial

A medida que se continúan desarrollando nuevas herramientas de Inteligencia Artificial para los creadores, el enfoque sigue siendo coherente con la forma en que se abordan algunos de sus mayores desafíos de responsabilidad: YouTube se toma el tiempo para hacer las cosas bien, en lugar de esforzarse por ser los primeros.

La plataforma busca siempre la forma de aprovechar años de inversión en los equipos y la tecnología capaces de moderar el contenido a la escala. Esto incluye un trabajo significativo y continuo para desarrollar protecciones que evitarán que las herramientas de IA generen el tipo de contenido que no pertenece a YouTube.

También la plataforma reconoce que los malos actores inevitablemente intentarán eludir estas protecciones. Por ello, incorporará los comentarios y el aprendizaje de los usuarios para mejorar continuamente la protección. Y dentro de la empresa, equipos dedicados como el departamento de inteligencia están específicamente enfocados en pruebas adversas y detección de amenazas para garantizar que los sistemas enfrenten nuevos desafíos a medida que surjan.

La transformación de la Inteligencia Artificial está al alcance

YouTube aún sigue en el camino para desbloquear nuevas formas de innovación y creatividad con Inteligencia Artificial generativa. La plataforma está al tanto del potencial de esta tecnología y sus avances repercutirán en las industrias creativas durante los próximos años.YouTube está trabajando en equilibrar estos beneficios, así como garantizar la seguridad de su comunidad en estos momentos tan cruciales, y seguir trabajando de la mano con creadores, artistas y otras personas en las industrias creativas para construir un futuro en beneficio de todos.