Araştırmaya göre, Rusya, Kuzey Kore, İran ve Çin destekli hacker grupları, ChatGPT gibi araçları kullanarak hedeflerini araştırıyor, kodları geliştiriyor ve sosyal mühendislik teknikleri oluşturuyorlar.
Örneğin, Rus askeri istihbaratıyla ilişkilendirilen Strontium grubu, LLM'leri uydu iletişim protokolleri ve radar görüntüleme teknolojileri gibi teknik detayları anlamak için kullanıyor. Bu grup, teknik işlemleri otomatikleştirmek veya optimize etmek amacıyla LLM'leri dosya manipülasyonu, veri seçimi ve çoklu işlem gibi temel komut dosyası görevlerinde kullanıyor.
Kuzey Kore'den Thallium grubu, kamuya açıklanan güvenlik açıklarını araştırmak ve kimlik avı kampanyaları için içerik üretmek için LLM'leri kullanıyor. Aynı şekilde, İranlı Curium grubu kimlik avı e-postaları üretmek ve antivirüs tespitinden kaçınmak için LLM'leri kullanırken, Çin devletine bağlı hackerlar ise araştırma, komut dosyası oluşturma ve mevcut araçlarını iyileştirme amacıyla LLM'leri kullanıyorlar.
Microsoft ve OpenAI, henüz LLM'leri kullanan önemli bir saldırı tespit etmemiş olsalar da, bu hacker gruplarıyla ilişkili hesapları ve varlıkları kapatıyorlar. Ayrıca, Microsoft, yapay zeka tabanlı Security Copilot adlı bir asistan geliştirerek yapay zeka kullanarak siber güvenlik uzmanlarına ihlalleri tespit etme konusunda destek oluyor. Security Copilot, güvenlik uzmanlarının siber güvenlik araçları tarafından üretilen büyük miktardaki veriyi daha iyi anlamalarına yardımcı oluyor.
Son olarak, ABD Ulusal Güvenlik Ajansı, hackerların daha inandırıcı kimlik avı e-postaları oluşturmak için yapay zeka kullandığı konusunda uyarıda bulunarak bu konuya dikkat çekiyor.
