China e Irán cruzan una línea roja: están utilizando ChatGPT para crear malware y lanzar ataques de phishing a los usuarios de Mac

OpenAI ha confirmado recientemente que durante las últimas semanas sus ingenieros han identificado más de 20 ciberataques orquestados con ChatGPT y otras herramientas de modelos de lenguaje extendidos (LLM). Los autores, según los técnicos de OpenAI, son hackers chinos e iraníes que han encontrado la forma de utilizar estas herramientas de IA para desarrollar malware, depurarlo y llevar a cabo otras actividades maliciosas.

Si por algo podemos definir este 2024 es como el año en que la inteligencia artificial ha entrado de lleno en el mundo, y no siempre para bien. Es por ello que Apple Intelligence está tardando más en llegar, para evitar cualquier tipo de uso inadecuado, ya que una empresa de la magnitud de Apple no puede verse envuelta en ningún tipo de polémica de este tipo. De hecho, Tim Cook ya expresó su preocupación sobre este tema en una entrevista tras la presentación de la IA de Apple.

Tres ataques que marcan un antes y un después

El primer ataque realizado con ChatGPT fue planificado por activistas chinos y tuvo como objetivo varios gobiernos de países asiáticos. Utilizaron una estrategia de spear-phishing conocida como 'SweetSpecter', que emplea un archivo ZIP con un fichero malicioso capaz de infectar el sistema del usuario si se descarga y se abre. Los ingenieros de OpenAI descubrieron que 'SweetSpecter' fue creado empleando varias cuentas que usaron ChatGPT para escribir el código y descubrir vulnerabilidades.

El segundo ataque optimizado con IA fue perpetrado por un grupo iraní conocido como 'CyberAv3ngers'. En esta ocasión, utilizaron ChatGPT para explotar vulnerabilidades y robar las contraseñas de usuarios de equipos con macOS. El tercer ataque, también planificado por un grupo iraní llamado 'Storm-0817', utilizó ChatGPT para desarrollar un software malicioso para Android capaz de robar listas de contactos, acceder a registros de llamadas y al historial del navegador.

La IA como arma de doble filo

Según OpenAI, todos los ataques en los que ha intervenido ChatGPT se han elaborado utilizando métodos perfectamente conocidos, por lo que los hackers chinos e iraníes no parecen haber desarrollado ningún método original. Sin embargo, el problema radica en lo sencillo que resulta ahora para los hackers con conocimientos mínimos recurrir a la IA para desarrollar software malicioso con una capacidad dañina muy importante.

OpenAI ha confirmado que seguirá mejorando su tecnología para prevenir que pueda ser utilizada con fines maliciosos. Mientras tanto, han creado varios equipos de trabajo especializados en seguridad y protección que compartirán sus hallazgos con otras empresas y con la comunidad para intentar evitar que se repitan más ciberataques como estos.

Cómo protegerse frente a estos nuevos ataques

La única manera de protegernos frente a este malware y software es tener siempre actualizado nuestro Mac a la última versión del sistema operativo y nunca descargar o instalar software compartido por email o páginas espejo. Lo mejor es buscar por nuestra propia cuenta el programa correspondiente en Google o la App Store para asegurarnos de que estamos instalando la aplicación correcta.

Estos ataques dejan claro que, aunque la IA tiene un enorme potencial, también facilita el acceso a la creación de malware a personas que antes no sabían hacerlo. Por otro lado, el malware y el phishing siempre han existido y la forma de protegernos es la misma en cualquier caso: mantener nuestros dispositivos actualizados y tener "mil ojos" en los correos electrónicos, mensajes, páginas web y cualquier archivo que ejecutemos en nuestro Mac.

Fuente | OpenAI

Imagen portada | Freepik

En Applesfera | Te han pillado: las frases y palabras que hacen evidente que utilizaste ChatGPT, en lugar de pensar "a lo Apple"

En Applesfera | Mucho mejor que ChatGPT: la mejor IA para iPhone es esta app gratuita. Ni necesita conexión a internet ni accede a tus datos