ChatGPT, IA, inteligencia artificial
Un nuevo chatbot de los chicos que nos trajeron DALL-E ha causado una especie de tormenta en Twitter con sus divertidas respuestas a las consultas de los usuarios.
07 diciembre 2022.- Un chatbot impulsado por IA lanzado recientemente llamado ChatGPT se lanzó esta semana con una mezcla de elogios y preocupaciones. Desarrollado por OpenAI , el chatbot puede enseñar a los usuarios varias cosas, como configurar un sitio web, pero también ha demostrado ser problemático al mismo tiempo.
En pocas palabras, es un nuevo chatbot desarrollado por OpenAI que está diseñado para interactuar con usuarios humanos de la forma más natural posible. El chatbot se creó desde cero para ser lo más natural posible al hablar con las personas en lo que se denomina "un estilo conversacional".
El sitio web del chatbot dice que "el formato de diálogo permite que ChatGPT responda preguntas de seguimiento, admita errores, cuestione premisas incorrectas y rechace solicitudes inapropiadas".
Aunque ChatGPT no es una tecnología nueva, muchos tecnólogos ya están satisfechos con su capacidad para imitar los patrones del habla y el lenguaje humanos al tiempo que proporciona información precisa y oportuna.
Muchas personas han recurrido a las redes sociales para compartir sus extrañas, a veces divertidas interacciones con el bot.
Algunas personas pensaron que Google podría ya no ser el mejor motor de búsqueda debido a lo bien que funcionó el chatbot desde el principio.
¿Cómo se usa ChatGPT de OpenAI?
El editor gerente de TechCrunch, Darrell Etherington , dijo que las consultas de búsqueda de ChatGPT eran tan básicas como si un usuario "estuviera holgazaneando con un colega o interactuando con un agente de atención al cliente en un sitio web".
Etherington mostró el poder del chatbot al hacer una pregunta sobre Pokémon y sus fortalezas y debilidades. “El resultado es exactamente lo que busco, no una lista de cosas que pueden ayudarme a encontrar lo que busco si estoy dispuesto a dedicarle tiempo, que es lo que devuelve Google”, explicó.
Todo muy interesante, pero otros tecnólogos están preocupados por el potencial del chatbot para un uso nefasto. Por ejemplo, en teoría, podría enseñarle a alguien cómo construir una bomba, etc.
¿Son seguros los chatbots como ChatGPT?
Samczsun, socio de investigación y jefe de seguridad de Paradigm, una institución financiera que respalda las empresas de criptografía y Web3, tuiteó que había logrado pasar el filtro de contenido del chatbot. En un tuit, mostró evidencia que supuestamente demostraba que había logrado persuadir al bot para que le enseñara cómo hacer un cóctel Molotov.
Según NBC News , esta imagen ha sido verificada como genuina por otros portavoces de Paradigm.
Al probar los filtros de seguridad y contenido de una IA, los investigadores y programadores suelen hacer preguntas como cómo fabricar bombas Molotov y autos de alambre caliente. Algunas personas dijeron que habían engañado al bot para que les dijera cómo hacer una bomba nuclear.
Aunque existen medidas de seguridad para evitar que ChatGPT responda a solicitudes peligrosas, OpenAI dice en su sitio web que la tecnología no es perfecta.
“Si bien nos hemos esforzado para que el modelo rechace solicitudes inapropiadas, a veces responderá a instrucciones dañinas o exhibirá un comportamiento sesgado”, se lee en un comunicado en el sitio web de OpenAI. Dice que OpenAI está utilizando herramientas de moderación para evitar respuestas inapropiadas, pero "esperamos que tenga algunos falsos negativos y positivos por ahora".
El sitio web advierte que ChatGPT ocasionalmente brinda respuestas absurdas o erróneas, incluso si las respuestas parecen correctas.
OpenGPT no es la primera inteligencia artificial popular de OpenAI en ganar popularidad. DALL-E , una máquina que podía crear imágenes a partir de instrucciones escritas básicas, se hizo popular en 2021. DALL-E destacó los avances en la capacidad de la inteligencia artificial para aprender de manera humana. Sin embargo, esa versión de la IA y otra llamada DALL-E 2 fueron criticadas por su sesgo racial y de género.
La demanda de ChatGPT ha sido tan grande que el CEO de OpenAI, Sam Altman, tuiteó que la empresa estaba haciendo todo lo posible para acomodar a los usuarios. “Hay mucha más demanda de ChatGPT de lo que esperábamos; estamos trabajando para agregar más capacidad”, escribió Altman.
En un tweet de seguimiento, Altman agregó : "Además, nos hace muy felices a todos en OpenAI ver a las personas disfrutar tanto de ChatGPT y hacer cosas tan creativas".
COMENTARIOS