İlaç endüstrisinde kullanılan bir yapay zeka ürününün ölümcül biyokimyasal silahları icat etmek için de kolayca kullanılabileceği ortaya çıktı.
Araştırmada, yapay zekanın 40 bin ölümcül molekülü icat etmesi 6 saatten az sürdü. ABD merkezli sağlık girişimi Collaboration Pharmaceuticals’tan bilim insanları, yapay zeka algoritmaları aracılığıyla yeni ilaçlar keşfetmek için çalışma yürütüyordu.
Bu algoritmalardan biri de Alzheimer tedavisinde kullanılan ve “asetilkolinesteraz inhibitörleri” diye bilinen bir ilaç sınıfının üretiminde kullanılan MegaSyn adlı bir makine öğrenme yazılımıydı.
Hakemli bilimsel dergi Nature Machine Intelligence’de yayımlanan araştırmada, bu algoritma, biyokimyasal silahlar üretecek şekilde yeniden düzenlendi.
KİMYASAL SAVAŞTA KULLANILABİLİR
MegaSyn aslında hastalar için en düşük toksisiteye sahip ilaç adayları oluşturmak üzere tasarlanmıştı. Ancak bu durum, girişimin kıdemli bilim insanlarından Fabio Urbina’yı düşündürüyordu.
Kimyasal silahlarla ilgili bir konferans daveti alan Urbina ve ekibi, makine öğreniminin tıp alanında nasıl kötüye kullanılabileceğine dair tartışmaya başladı.
Sonunda ekip, yazılımı sinir gazı gibi ölümcül bileşikler üretmeye yönlendirmek için modeli yeniden eğitti ve yeni moleküller oluşturması için kendi haline bıraktı.
Urbina, “Sabah geri geldim, 40 bin bileşik üretmişti. Nasıl göründüklerine baktık ve sonra bazı özelliklerini araştırmaya başladık. Hem epey etkileyici hem de korkutucuydu. Çünkü ilk 100 listemizde, daha önce keşfedilmiş bazı moleküller vardı. Bunlar kimyasal savaş ajanları diye bilinen VX benzeri maddelerdi.” diye konuştu.
Kimyasal silahlarla ilgili bir konferans daveti alan Urbina ve ekibi, makine öğreniminin tıp alanında nasıl kötüye kullanılabileceğine dair tartışmaya başladı.
Sonunda ekip, yazılımı sinir gazı gibi ölümcül bileşikler üretmeye yönlendirmek için modeli yeniden eğitti ve yeni moleküller oluşturması için kendi haline bıraktı.
Urbina, “Sabah geri geldim, 40 bin bileşik üretmişti. Nasıl göründüklerine baktık ve sonra bazı özelliklerini araştırmaya başladık. Hem epey etkileyici hem de korkutucuydu. Çünkü ilk 100 listemizde, daha önce keşfedilmiş bazı moleküller vardı. Bunlar kimyasal savaş ajanları diye bilinen VX benzeri maddelerdi.” diye konuştu.
10 MİLİGRAMI BİR İNSANI ÖLDÜRMEK İÇİN YETERLİ
VX, bilinen en zehirli sinir ajanlarından biri. Bu molekülden yaklaşık 10 miligram, bir insanı öldürmek için yeterli oluyor. VX, akciğer kaslarının kasılmış halde kalmasına neden olarak kişinin nefes almasını imkansız hale getiriyor. Diğer bir deyişle ciğerleri felç ediyor.
Urbina, “Modelin, birçoğu VX’e benzeyen ve ayrıca diğer kimyasal savaş ajanlarına benzeyen tüm bu molekülleri üretmeye başladığını gördük. Algoritma bu süreçte, VX gibi işlev gören moleküller üretmekle kalmadı, aynı zamanda buna yapısal olarak benzeyen ama daha da zehirli olduğu tahmin edilen bazı moleküller de oluşturdu. Bunlardan sadece birkaçı daha zehirliydi. Ama bu da inanılmaz derecede endişe verici.” ifadelerini kullandı.
Urbina, “Modelin, birçoğu VX’e benzeyen ve ayrıca diğer kimyasal savaş ajanlarına benzeyen tüm bu molekülleri üretmeye başladığını gördük. Algoritma bu süreçte, VX gibi işlev gören moleküller üretmekle kalmadı, aynı zamanda buna yapısal olarak benzeyen ama daha da zehirli olduğu tahmin edilen bazı moleküller de oluşturdu. Bunlardan sadece birkaçı daha zehirliydi. Ama bu da inanılmaz derecede endişe verici.” ifadelerini kullandı.
