Siber suçlular ChatGPT'yi pek düşünmüyor
Güvenlik hizmeti sağlayıcıları, siber suçluların ChatGPT & Co. Büyük dil modelleri kullanmalarına rağmen, yeteneklerinin abartıldığını ve gereksiz olduğunu düşündükleri ortaya çıktı. Bununla birlikte, suçlular ve ChatGPT'nin birleşimi tehlikelidir.
Bundan tam bir yıl önce ChatGPT adlı sohbet robotu piyasaya sürüldü ve hemen hemen anında büyük bir heyecan yarattı. Büyük dil modelinin (LLM) olanakları, kısmen çok yönlülüğü nedeniyle gerçekten de muazzamdır. ChatGPT aynı zamanda kod yazabilir ya da geliştirebilir. Bu nedenle en başından beri yapay zekanın kötü amaçlı yazılım üretmek için de kullanılabileceğinden korkuluyordu.
Ancak, iki güvenlik şirketinin ayrı soruşturmalarda keşfettiği gibi, suçlu bilgisayar korsanları ChatGPT'yi bu amaçla neredeyse hiç kullanmadı. Sophos yakın tarihli bir raporunda, kriminal uzmanların bu modeli abartılı ve hatta gereksiz bulduğunu yazıyor. Trend Micro da daha önce yaptığı bir araştırmada benzer bir sonuca varmıştı.
Güvenlik hizmeti sağlayıcıları, yapay zekanın suç amaçlı kullanımına genel bir bakış elde etmek için, siber suçluların ChatGPT & Co. hakkında tartıştığı darknet forumlarındaki sohbetleri analiz etti. Sophos, yapay zekanın bu forumlarda gündemde olmadığını tespit etti. Şirketin uzmanları iki forumda konuyla ilgili sadece 100 civarında gönderi bulurken, kripto para birimleri hakkında neredeyse 1.000 gönderi vardı.
Profesyonellerin endişeleri var
Diğer şeylerin yanı sıra, birçok siber suçlunun hala üretken yapay zekanın emekleme aşamasında olduğunu düşündüğünden şüpheleniyorlar. Ayrıca darknet forumlarında bu konuda yapılan tartışmalar, çok fazla dikkat çekebilecekleri sosyal ağlar kadar kazançlı değil.
Sophos'a göre birçok suçlu, YZ kullanımının antivirüs programları tarafından tespit edilebilecek izler bırakabileceğinden de korkuyor. Ağlardaki son cihazları gerçek zamanlı olarak izleyen yazılımlar (Endpoint Detection and Response: EDR) da onları yakalayabilir.
Yapay zekaya yönelik itirazlar oldukça haklı. Forum üyeleri genellikle suçlulardır, ancak aralarında karmaşık yeni teknolojiyi nasıl değerlendireceklerini bilen çok yetenekli bilgisayar korsanları da vardır. Trend Micro ve Sophos'un keşfettiği gibi, ChatGPT & Co. kötü amaçlı yazılım üretmek için neredeyse hiç kullanmıyorlar.
Kod ve sosyal mühendisliğin geliştirilmesi
Bunun yerine, diğer geliştiriciler gibi, kodlarını geliştirmek için çoğunlukla büyük dil modellerini kullanırlar. Suçlular ayrıca spam ve kimlik avı kampanyalarını daha başarılı hale getirmek için ChatGPT'yi sosyal mühendislik için kullanmayı severler. Diğer şeylerin yanı sıra, kullanıcıları virüslü ekleri açmaya veya tehlikeli bağlantılara tıklamaya ikna eden aldatıcı gerçek e-postalara ihtiyaç duyarlar.
Güvenlik şirketi ESET'ten Cameron Camp, ilkbaharda bir kimlik avı e-postasını dil hatalarına dayanarak tanımayı ummamanız gerektiğini yazmıştı. Uzman. Yapay zeka muhtemelen ana dili kullanıcılardan daha iyi biliyordur.
Jailbreak'ler büyük bir sorun
ChatGPT'nin, suçluların özellikle ilgisini çeken zararlı, yasadışı veya uygunsuz sorulara yanıt vermesini önlemek için çeşitli filtreler tasarlanmıştır. Bu aynı zamanda gerçek dünyada bir suç planlamayı da içerebilir.
Bu nedenle, Darknet forumlarındaki en önemli konulardan biri bu engellerin nasıl aşılacağıdır. Pratikte ücretsiz erişim sağlayan sözde jailbreak'lere özel bir talep var. Açılımı "Do Anything Now" olan DAN, ChatGPT'nin ilk günlerinden beri kötü bir üne sahip. Kod sürekli olarak uyarlanıyor, ChatGPT geliştiricileri ve jailbreaker'lar arasında bir tür kedi-fare oyunu oynanıyor.
Sophos, hacklenmiş ChatGPT hesaplarının Darknet forumlarında satışa sunulmasının daha da sık görüldüğünü yazıyor. Bu pek de şaşırtıcı değil. Ancak bu hesapların hangi hedef kitleye yönelik olduğu ve alıcıların bunlarla ne yapabileceği belirsiz. Uzmanlar, gizli bilgileri elde etmek için önceki sorgulara erişiyor olabileceklerini tahmin ediyor. Alıcılar bu erişimi kendi sorgularını gerçekleştirmek ya da şifrelerin yeniden kullanımını kontrol etmek için de kullanabilirler.
Kriminal LLM'ler şimdiye kadar çoğunlukla sıcak hava
Güvenlik uzmanları, suç modellerinin de forumlarda sunulmuş ve sunulmaya devam ediyor olmasını özellikle ilginç buluyor. Bunlardan en bilinenleri WormGPT ve FraudGPT'dir.
WormGPT bu yılın Haziran ayında yayınlandı ve iddiaya göre GPTJ modeline dayanıyordu. Sohbet robotu aylık 100 avro ya da yıllık 550 avroya mal oluyordu. Ancak geliştirici, iddiaya göre medyanın yoğun ilgisi nedeniyle Ağustos ayında bunu durdurdu.
Bununla birlikte, şunları da yazdı: "Nihayetinde WormGPT, sınırsız bir ChatGPT'den başka bir şey değildir. İnternetteki herkes bilinen bir jailbreak tekniğini kullanabilir ve daha iyi olmasa da aynı sonuçları elde edebilir." Sophos, birkaç forum üyesinin dolandırıcılıktan şüphelendiğini yazıyor.
FraudGPT için de durum benzer. Modelin yetenekleri hakkında da şüpheler var. Bir üye sohbette gerçekten de antivirüs yazılımının tespit edemeyeceği zararlı yazılımlar üretip üretemeyeceğini sordu. Net bir cevap aldı.
Tüm kötü amaçlı yazılımlar bir kez tanınır
Hayır, bu mümkün değil, dedi. LLM'ler basitçe bunu yapamazlar. Kodu ne tercüme edebilirler ne de yazıldığı dilin ötesinde "anlayabilirler". Benzer şekilde, yazara göre tespit edilemeyen kötü amaçlı yazılım diye bir şey de yoktur. Er ya da geç, her kötü niyetli kod keşfedilir.
Bugüne kadar ortaya çıkan diğer tüm kriminal sohbet robotlarının gerçekliği ve/veya performansı hakkında da şüpheler var. Trend Micro, tüm tartışmalara rağmen WormGPT'nin büyük olasılıkla gerçek bir özelleştirilmiş LLM'nin tek örneği olduğuna inandığını yazıyor.
Deneyimli suçlular bekleyip görecek, script çocukları kutlayacak
Trend Micro, bilgili siber suçlular için "ChatGPT gibi ayrı bir LLM geliştirmeye gerek yok, çünkü ChatGPT zaten ihtiyaçları için yeterince iyi çalışıyor" sonucuna varıyor. Yapay zekayı yasal programcılarla aynı şekilde kullandılar. Sophos ayrıca kötü amaçlı yazılım üretmek için yapay zeka kullandıklarına dair neredeyse hiç kanıt bulamadı. Yalnızca bireysel saldırı araçları için kullanılıyor. Ancak bu durum gelecekte değişebilir.
Deneyimli siber suçlular için bir bonus, artık kodlarını fazla çaba harcamadan geliştirebilmeleri ve ayrıca çok yetkin olmadıkları bilgisayar dillerinde kötü amaçlı yazılım yazabilmeleridir. Sophos ayrıca, günlük programlama görevlerini tamamlamak veya forumlarını geliştirmek için yapay zeka yardımını kullanabileceklerini belirtti.
Her iki güvenlik şirketi de yapay zeka kullanımının suçlu bir hacker olmanın önündeki giriş engelini azalttığını düşünüyor. Trend Micro'ya göre, ahlaki pusulası bozuk olan herkes artık herhangi bir programlama bilgisi olmadan kötü amaçlı yazılım geliştirmeye başlayabilir.
Kaynak: www.ntv.de