ABD’li tanınmış düşünce kuruluşu Rand Corporation’da
araştırmacılar çeşitli büyük dil modellerini (LLM) test etti ve bunların
biyolojik bir saldırının planlanmasına ve yürütülmesine rehberlik
sağlayabileceğini tespit etti. Yayınlanan raporda, 1990’larda Japon Aum
Shinrikyo tarikatının botulinum toksini kullanma girişimi gibi biyolojik
ilaçları silah haline getirmeye yönelik önceki girişimlerin, bakterinin
yeterince anlaşılamaması nedeniyle başarısız olduğu belirtildi. Yapay zekanın
bu tür bilgi boşluklarını hızla kapatabileceği kaydedildi.
Öte yandan araştırmacıların hangi dil modellerini test
ettiği ise açıklanmadı. Biyolojik silahlar, önümüzdeki ay İngiltere’de
düzenlenecek olan küresel yapay zeka güvenlik zirvesinde tartışılacak olan
yapay zeka ile ilgili ciddi tehditler arasında yer alıyor.
Temmuz ayında yapay zeka firması Anthropic’in CEO’su Dario
Amodei, yapay zeka sistemlerinin iki ila üç yıl içinde biyolojik silahların
yaratılmasına yardımcı olabileceği konusunda uyarıda bulundu. Dil modelleri
internetten alınan büyük miktarda veri üzerinde eğitiliyor ve ChatGPT gibi
sohbet robotlarının arkasındaki temel teknolojiyi oluşturuyor. Rand tarafından
tasarlanan bir test senaryosunda, anonimleştirilmiş LLM, çiçek, şarbon ve
vebaya neden olanlar da dahil olmak üzere potansiyel biyolojik ilaçları
tanımladı ve bunların kitlesel ölüme neden olma olasılıklarını tartıştı.
LLM ayrıca vebaya yakalanmış kemirgen ya da pirelerin elde
edilmesi ve canlı örneklerin taşınması olasılığını da değerlendirdi. Ardından,
öngörülen ölümlerin ölçeğinin, etkilenen nüfusun büyüklüğü ve vebadan daha
ölümcül olan pnömonik veba vakalarının oranı gibi faktörlere bağlı olduğunu
belirttiği kaydedildi. Bir başka senaryoda, adı açıklanmayan LLM, ölümcül sinir
hasarına neden olabilen botulinum toksini için gıda veya aerosol gibi farklı
dağıtım mekanizmalarının artılarını ve eksilerini değerlendirdi.
LLM ayrıca “meşru bir bilimsel araştırma yürütüyormuş gibi
görünürken” Clostridium botulinum bakterisini elde etmek için tavsiyede
bulundu. Araştırmacılar, ilk sonuçların LLM’lerin “biyolojik bir saldırının
planlanmasına potansiyel olarak yardımcı olabileceğini” gösterdiğini söyledi.
