Ha surgido una nueva amenaza en la saga ChatGPT, ya que los ciberdelincuentes han desarrollado una forma de piratear el chatbot de IA e inundarlo con comandos maliciosos.
EL firma de investigación de puntos de control descubrió que los piratas informáticos han diseñado bots capaces de infiltrarse en la API GPT-3 de OpenAI y modificar su código para que pueda generar contenido malicioso, como texto que puede usarse para correos electrónicos de secuencias de comandos de phishing y malware.
Los bots funcionan a través de la aplicación de mensajería Telegram. Los malos actores están usando bots para configurar una versión oscura y sin restricciones de ChatGPT, según Ars-Technica.
ChatGPT tiene botones de aprobación y aprobación que puede presionar como parte de su algoritmo de aprendizaje si genera contenido que puede considerarse ofensivo o inapropiado. Normalmente, las entradas como la generación de código malicioso o los correos electrónicos de phishing están prohibidos, y ChatGPT se niega a dar una respuesta.
Esta infame alternativa de chatbot tiene un precio de $ 6 por cada 100 solicitudes, y los piratas informáticos que la respaldan también brindan consejos y ejemplos del contenido incorrecto que puede generar con esta versión. Los piratas informáticos también pusieron a disposición un script en GitHub. El script OpenAI basado en API tiene la capacidad de permitir a los usuarios simular una empresa o persona, además de generar correos electrónicos de phishing a través de comandos de generación de texto. Los bots también pueden ayudarlo a colocar el enlace de phishing en el correo electrónico, según jugador en pc.
No está claro qué grado de amenaza representará este desarrollo para los generadores de texto de IA en el futuro, especialmente con las grandes empresas que ya están comprometidas a trabajar con esta tecnología cada vez más popular. Se espera que Microsoft Bing agregue compatibilidad con ChatGPT a su navegador pronto en una próxima actualización como parte de su colaboración continua con OpenAI, por ejemplo.
Aunque ChatGPT seguirá siendo gratuito en el futuro previsible, menos la suscripción prioritaria de ChatGPT Plus, esta no es la primera vez que los estafadores atacan el generador de texto AI. En enero, se conoció la noticia de que miles de personas habían sido engañadas para pagar las versiones de la aplicación móvil iOS y Android del chatbot, que actualmente es un servicio basado en navegador.
La versión de Apple App Store fue particularmente popular, a pesar de su precio de suscripción semanal de $8 después de una prueba de tres días. Los usuarios también tenían la opción de pagar una suscripción mensual de $50, que era notablemente más cara que el costo semanal. La aplicación finalmente se eliminó de Apple Store después de atraer la atención de los medios.
ChatGPT es sin duda un objetivo principal para los estafadores, ya que ha crecido en popularidad, pero queda por ver si los malos actores terminarán saltando a una de las muchas alternativas de ChatGPT que existen.
Recomendaciones de los editores
