Europol emitió una severa advertencia esta semana destacando los riesgos que plantean los delincuentes a medida que abordan la nueva ola de chatbots avanzados de IA.
En un artículo compartido en línea esta semana, la agencia europea de aplicación de la ley describió cómo los delincuentes utilizarán cada vez más herramientas como ChatGPT y GPT-4 de OpenAI y Bard de Google para buscar nuevas formas de defraudar a los miembros del público.
Ella identificó tres áreas específicas de mayor preocupación para ella.
Primero, el fraude y la ingeniería social, donde se envían correos electrónicos a los objetivos con la esperanza de engañarlos para que descarguen un archivo infectado con malware o hagan clic en un enlace que los lleve a un sitio web igualmente peligroso.
Los correos electrónicos de phishing, como se les llama, generalmente están llenos de errores gramaticales y ortográficos y terminan en la carpeta de correo no deseado. Incluso los que llegan a la bandeja de entrada están escritos de forma tan horrible que el destinatario puede tirarlos rápidamente sin pensarlo dos veces.
Pero los chatbots de IA pueden redactar mensajes bien escritos sin errores descuidados, lo que permite a los delincuentes enviar correos electrónicos convincentes que significan que los destinatarios deberán tener mucho cuidado al revisar sus mensajes.
Europol dijo que los chatbots avanzados son capaces de «reproducir patrones de lenguaje que se pueden usar para imitar el estilo de habla de individuos o grupos específicos», y agregó que esa capacidad puede ser «abusada a gran escala para inducir a las posibles víctimas de errores a confiar en ellos mismos». manos». de actores criminales.
También se espera que prolifere una forma más convincente de desinformación, con la nueva ola de chatbots que se destacan en la creación de texto auténtico a alta velocidad y a gran escala, dijo Europol, y agregó: «Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación». permite a los usuarios generar y entregar mensajes que reflejan una narrativa específica con relativamente poco esfuerzo. »
En tercer lugar, Europol citó la codificación como una nueva área que los ciberdelincuentes están tomando para crear malware. «Además de generar un lenguaje similar al humano, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes», señaló la agencia. «Para un criminal potencial con poco conocimiento técnico, este es un recurso invaluable para producir código malicioso».
Dijo que la situación «ofrece una perspectiva sombría» para quienes están del lado correcto de la ley, ya que la actividad nefasta en línea se vuelve más difícil de detectar.
La moda de los chatbots con IA despegó en noviembre de 2022 cuando OpenAI, respaldado por Microsoft, lanzó su impresionante herramienta ChatGPT. Recientemente se lanzó una versión mejorada, GPT-4, mientras que Google también presentó su propia herramienta similar, llamada Bard. Los tres son conocidos por su impresionante capacidad para crear texto de sonido natural con solo unas pocas indicaciones, y es probable que la tecnología ayude o incluso reemplace una gran cantidad de trabajos diferentes en los próximos años.
Otra tecnología similar impulsada por IA le permite crear imágenes, videos y audio originales con solo unas pocas indicaciones de texto, lo que enfatiza que ninguna forma de medios escapará al impacto de la IA a medida que la tecnología continúa mejorando.
Algunas voces prominentes tienen preocupaciones comprensibles sobre su rápido aumento, con una carta abierta reciente firmada por Elon Musk, el cofundador de Apple Steve Wozniak y varios expertos que afirman que los sistemas de inteligencia artificial con inteligencia competitiva pueden presentar «riesgos profundos para la sociedad y la humanidad». La carta pedía una pausa de seis meses para permitir la creación e implementación de protocolos de seguridad para herramientas avanzadas, y agrega que si se maneja de la manera correcta, «la humanidad puede disfrutar de un futuro próspero con IA».
Recomendaciones de los editores
