OpenAI, creadores de ChatGPT, se comprometen a desarrollar sistemas seguros de IA


OpenAI ha publicado una nueva publicación de blog en la que se compromete a desarrollar inteligencia artificial (IA) que sea segura y ampliamente beneficiosa.

ChatGPT, impulsado por el último modelo de OpenAI, GPT-4, puede mejorar la productividad, mejorar la creatividad y brindar experiencias de aprendizaje personalizadas.

Sin embargo, OpenAI reconoce que las herramientas de IA tienen riesgos inherentes que deben abordarse mediante medidas de seguridad y un despliegue responsable.

Esto es lo que la empresa está haciendo para aquietar esos riesgos.

Garantizar la seguridad en los sistemas de IA

OpenAI realiza pruebas exhaustivas, busca orientación externa de expertos y refina sus modelos de IA con comentarios humanos antes de lanzar nuevos sistemas.

El lanzamiento de GPT-4, por ejemplo, fue precedido por más de seis meses de pruebas para garantizar su seguridad y adecuación a las necesidades de los usuarios.

OpenAI cree que los sistemas robustos de IA deben someterse a rigurosas evaluaciones de seguridad y respalda la necesidad de una regulación.

Aprendiendo del uso en el mundo real

El uso en el mundo real es un componente crítico en el desarrollo de sistemas de IA seguros. Al lanzar con cautela nuevos modelos a una base de usuarios que se expande gradualmente, OpenAI puede realizar mejoras que abordan problemas imprevistos.

Al ofrecer modelos de IA a través de su API y sitio web, OpenAI puede monitorear el uso indebido, tomar las medidas adecuadas y desarrollar políticas matizadas para igualar el riesgo.

Protección de los niños y respeto de la privacidad

OpenAI prioriza la protección de los niños al exigir la verificación de la edad y prohibir el uso de su tecnología para generar contenido dañino.

La privacidad es otro aspecto esencial del trabajo de OpenAI. La organización usa datos para hacer que sus modelos sean más útiles mientras protege a los usuarios.

Además, OpenAI elimina la información personal de los conjuntos de datos de entrenamiento y ajusta los modelos para rechazar las solicitudes de información personal.

OpenAI responderá a las solicitudes de eliminación de información personal de sus sistemas.

Mejora de la precisión de los hechos

La precisión de los hechos es un enfoque importante para OpenAI. GPT-4 tiene un 40 % más de probabilidades de producir contenido preciso que su predecesor, GPT-3.5.

La organización se esfuerza por educar a los usuarios sobre las limitaciones de las herramientas de IA y la posibilidad de imprecisiones.

Investigación y compromiso continuos

OpenAI cree en dedicar tiempo y recursos a la investigación de mitigaciones efectivas y técnicas de alineación.

Sin embargo, eso no es algo que pueda hacer solo. Abordar los problemas de seguridad requiere un amplio debate, experimentación y compromiso entre las partes interesadas.

OpenAI mantiene su compromiso de fomentar la colaboración y el diálogo abierto para crear un ecosistema de IA seguro.

Críticas a los riesgos existenciales

A pesar del compromiso de OpenAI de garantizar la seguridad y los amplios beneficios de sus sistemas de IA, su publicación en el blog ha generado críticas en las redes sociales.

Los usuarios de Twitter expresaron su decepción y afirmaron que OpenAI no aborda los riesgos existenciales asociados con el desarrollo de IA.

Un usuario de Twitter expresó su decepción y acusó a OpenAI de traicionar su misión fundacional y centrarse en una comercialización imprudente.

El usuario sugiere que el enfoque de seguridad de OpenAI es superficial y está más preocupado por apaciguar a los críticos que por chocar los riesgos existenciales genuinos.

Otro usuario expresó su descontento con el anuncio, argumentando que pasa por alto problemas reales y sigue siendo vago. El usuario también destaca que el informe ignora los problemas éticos críticos y los riesgos relacionados con la autoconciencia de la IA, lo que implica que el enfoque de OpenAI para los problemas de seguridad es inadecuado.

La crítica subraya las preocupaciones más amplias y el debate en curso sobre los riesgos existenciales que plantea el desarrollo de la IA.

Si bien el anuncio de OpenAI describe su compromiso con la seguridad, la privacidad y la precisión, es esencial reconocer la necesidad de una mayor discusión para chocar preocupaciones más importantes.


Imagen destacada: TY Lim/Shutterstock

Fuente: IA abierta





Consultar el artículo en la publicación original

OpenAI, creadores de ChatGPT, se comprometen a desarrollar sistemas seguros de IA