La IA de Facebook busca y elimina contenido dañino


Facebook anunció una nueva tecnología de inteligencia artificial que puede identificar rápidamente contenido dañino para hacer que Facebook sea más seguro. El nuevo modelo de IA utiliza el aprendizaje de “pocas tomas” para reducir el tiempo de detección de nuevos tipos de contenido dañino de meses a un período de semanas.

Aprendizaje de pocas oportunidades

El aprendizaje de pocos disparos tiene similitudes con el aprendizaje de cero. Ambas son técnicas de aprendizaje automático cuyo objetivo es enseñar a una máquina a dar con una tarea invisible aprendiendo a generalizar las instrucciones para dar con una tarea.

Los modelos de aprendizaje de pocos disparos se entrenan con algunos ejemplos y, a partir de ahí, se pueden escalar y dar con las tareas invisibles, y en este caso la tarea es identificar nuevos tipos de contenido dañino.

La ventaja del nuevo modelo de inteligencia artificial de Facebook es acelerar el proceso de acción contra nuevos tipos de contenido dañino.

El anuncio de Facebook decía:

“El contenido dañino continúa evolucionando rápidamente, ya sea impulsado por eventos actuales o por personas que buscan nuevas formas de evadir nuestros sistemas, y es crucial que los sistemas de IA evolucionen junto con él.

Pero, por lo general, se necesitan varios meses para recopilar y etiquetar miles, si no millones, de ejemplos necesarios para capacitar a cada sistema de IA individual para detectar un nuevo tipo de contenido.

… Este nuevo sistema de inteligencia artificial utiliza un método llamado «aprendizaje de pocas oportunidades», en el que los modelos comienzan con una comprensión general de muchos temas diferentes y luego usan muchos menos, o a veces cero, ejemplos etiquetados para aprender nuevas tareas «.

Anuncio publicitario

Continuar leyendo a continuación

La nueva tecnología es efectiva en cien idiomas y funciona tanto con imágenes como con texto.

La nueva IA de aprendizaje de pocas tomas de Facebook está pensada como una adición a los métodos actuales para evaluar y eliminar contenido dañino.

Aunque es una adición a los métodos actuales, no es una pequeña adición, es una gran adición. El impacto de la nueva IA es tanto de escala como de velocidad.

“Este nuevo sistema de inteligencia artificial utiliza un método relativamente nuevo llamado“ aprendizaje de pocas oportunidades ”, en el que los modelos comienzan con una comprensión amplia y general de muchos temas diferentes y luego usan muchos menos, y en algunos casos cero, ejemplos etiquetados para aprender nuevas tareas. .

Si los sistemas tradicionales son análogos a una línea de pesca que puede atrapar un tipo específico de captura, la FSL es una red adicional que también puede atrapar otros tipos de peces ”.

Nuevo Facebook AI Live

Facebook reveló que el nuevo sistema está actualmente implementado y en vivo en Facebook. El sistema de inteligencia artificial se probó para detectar información errónea sobre la vacunación COVID-19 dañina.

Anuncio publicitario

Continuar leyendo a continuación

También se utilizó para identificar contenido destinado a incitar a la violencia o que simplemente se acerca al límite.

Facebook utilizó el siguiente ejemplo de contenido dañino que no llega a incitar a la violencia:

«¿Ese tipo necesita todos sus dientes?»

El anuncio afirma que el nuevo sistema de inteligencia artificial ya ha ayudado a reducir la cantidad de discursos de odio publicados en Facebook.

Facebook compartió un gráfico que muestra cómo la cantidad de discurso de odio en Facebook disminuyó a medida que se implementaba cada nueva tecnología.

El gráfico muestra el éxito de la detección del discurso de odio en Facebook

Discurso de odio de Facebook AI

Aprendizaje con pocas posibilidades de vinculación

Facebook llama a su nueva tecnología, Entailment Few-Shot Learning.

Tiene una capacidad notable para etiquetar correctamente el texto escrito que es discurso de odio. El artículo de investigación asociado (Entailment como PDF de aprendiz de pocas oportunidades) informa que supera a otras técnicas de aprendizaje de pocos intentos hasta en un 55% y, en promedio, logra una mejora del 12%.

El artículo de Facebook sobre la investigación utilizó este ejemplo:

«… podemos reformular una entrada de clasificación de sentimiento aparente y un par de etiquetas:

[x : “I love your ethnic group. JK. You should all be six feet underground” y : positive] como la siguiente muestra de vinculación textual:

[x : I love your ethnic group. JK. You should all be 6 feet underground. This is hate speech. y : entailment]. «

Facebook trabaja para desarrollar una inteligencia artificial similar a la humana

El anuncio de esta nueva tecnología dejó en claro que el objetivo es una “flexibilidad y eficiencia de aprendizaje” similar a la humana que le permitirá evolucionar con las tendencias y hacer cumplir las nuevas políticas de contenido de Facebook en un espacio de tiempo rápido, como un ser humano.

La tecnología está en la etapa inicial y, con el tiempo, Facebook prevé que se vuelva más sofisticada y generalizada.

Anuncio publicitario

Continuar leyendo a continuación

“Un sistema de inteligencia artificial enseñable como Few-Shot Learner puede mejorar sustancialmente la agilidad de nuestra capacidad para detectar y adaptarnos a situaciones emergentes.

Al identificar el contenido dañino y en evolución mucho más rápido y con mayor precisión, FSL tiene la promesa de ser una pieza fundamental de tecnología que nos ayudará a continuar evolucionando y abordar el contenido dañino en nuestras plataformas «.

Citas

Lea el anuncio de Facebook sobre la nueva IA

Nuestro nuevo sistema de inteligencia artificial para ayudar a tocar el contenido dañino

Artículo sobre la nueva tecnología de Facebook

El contenido dañino puede evolucionar rápidamente. Nuestro nuevo sistema de inteligencia artificial se adapta para abordarlo

Leer el artículo de investigación de Facebook

Entailment como aprendiz de pocas oportunidades (PDF)





Consultar el artículo en la publicación original

La IA de Facebook busca y elimina contenido dañino
× +info?
A %d blogueros les gusta esto: