Bir grup bilim insanı bir araya gelerek yapay zekâ ile ilaç keşfi için bir model geliştirdiler. Tedavi edilemeyen hastalıkları tedavi etmek için eskiden var olan bir molekülü ele alıp üzerinde çalışmak yerine, milyonlarca fikir üretebilen bir yapay zekâ… Bu yaklaşım büyük umutlar doğurmuştu. Ancak, Klinik farmakolog Sean Erins’e göre, bu teknolojinin ikinci bir yüzü olduğunu düşünememişlerdi.
***
Her şey İsviçre’den Spiez Laburatuvarı adındaki bir kurumun, “yapay zekânın kötüye kullanımı” hakkında sunum yapması için Klinik farmakolog Sean Erins’i davet etmesiyle başladı. Erins, tedavi edilemeyen hastalıkların tedavisinde kullanmak için geliştirdikleri yapay zekâya, hastalıkları tedavi etmek için ilaç benzeri moleküller üretmesi yerine, en zehirli molekülü üretebilecek mi diye sordu:
Ölümcül moleküller tasarlamak için yapay zekâ teknolojisi kullanabilir miyiz?
Sadece başlat tuşuna bastı. Bilgisayar binlerce molekül üreterek çalışmaya başladı. Ertesi sabah klinik farmakolog Sean Erins’in önünde yapay zekânın tek bir komutla hazırladığı yaklaşık 40 bin molekül vardı. Bunlar belki de insanoğlunun bildiği en zehirli moleküllerdi.
Erins sunum yaparken kullanabileceği birkaç örnek beklerken, yapay zekânın birkaç saat içinde kimyasal silaha dönüşebilecek on binlerce fikir ürettiğini görünce dehşete kapıldı. Sean “Pandora’nın kutusu böyle açıldı. Beni en çok korkutan şu oldu yaptığımız şeyi herkes yapabilir. Bir düğmeyi çevirmek yeterli.” dedi.
***
Bu deneyimleri Nature Machine Intelligence dergisinde “Yapay Zekâ Destekli İlaç Keşfinin İkili Kullanımı” başlıklı makalede de yer aldı. Erins, hastalıkları iyileştirmek için tasarladıkları yapay zekâya birkaç olumsuz örnek için başvurduğunu ancak yapay zekânın tek bir komutla 40 bin molekül yaratarak kötüye kullanılma potansiyeline de fazlasıyla sahip olduğunu açıkladı.
Makalede, Erins ve ekibi, yapay zekânın kötüye kullanılması halinde bu moleküllerin, kimyasal silahlar için potansiyel birer tehlike oluşturacağını söylüyorlar. Son zamanlarda kullanılan VX adlı ölümcül kimyasal silahın ötesinde, bilgisayar tarafından üretilen moleküllerle daha da ölümcül silahlar olduğunu da belirterek. Bu durum, yapay zekâ teknolojisinin yanlış ellerde nasıl tehlikeli bir araç olabileceğini göstermekte. Erins’e göre, yapay zekânın etik sorunu yalnızca toplum tarafından ele alınmakta. Oysa teknoloji geliştirenlerin ve düzenleyicilerin de bu konuya odaklanması gerekiyor.
Erins, hastalıkları iyileştirmek için tasarladıkları yapay zekânın tek bir komutla 40 bin molekül yaratarak kötüye kullanılma potansiyeline de sahip olduğunu açıkladı.
***
Bunu kamuoyuna açıklayıp açıklamamakta da hayli tereddüt yaşamışlar. “Bir yandan dünyayı bu tür ihtimaller hakkında uyarmak istiyorsunuz ama öte yandan bunu hiç düşünmemiş birinin aklına sokmak da istemiyorsun” diyerek… Ama bu tür yapay zekânın kötüye kullanımını ortaya çıkmadan önce azaltmak için yayınlamaya değer olduğuna karar veriyorlar. Sonuç; normalde yazdıkları makaleleri birkaç yılda birkaç bin kişi okurken bu makaleyi sadece bir günde on binlerce insan okuyor.
Beyaz Saray makaleyi önemsiyor ve Erins ve ekibini davet ediyorlar. Ve anlıyorlar ki; kimyasal harp silahlarını takip etmekten sorumlu görevlilerin ve devlet kurumlarının dahi bu potansiyelden haberi yok… Erins’e göre, dikkatli dinlemeliydiler, teknolojiyi düzenleyecek adımlar atılmalıydı. Veya kötüye kullanılmayacak şekilde kısıtlanması gerekiyordu. Çünkü ölümcül olma ihtimali korkunçtu!
Peki, bir teknoloji tamamen yıkıcı bir şey için kullanılmadan önce nasıl kontrol edilebilir? Otomasyonu hızlandırmanın ya da artırmanın bir diğer yüzü olduğunu unutmamak gerekiyor. Belli ki, yarattığımız teknolojilerin güvenli ve etik kullanıldığından hiçbir zaman emin olamayacağız. Klinik farmakolog Sean Erins’in bu saptaması “Katil robotlar” belgeseline de konu oldu.
Sonuç olarak, yapay zekâ destekli ilaç keşfi gibi teknolojilerin potansiyel ikili kullanımı, ciddi bir endişe kaynağıdır. Bu teknolojinin etik ve güvenli kullanımını sağlamak için toplumun, teknoloji uzmanlarının ve düzenleyicilerin iş birliği yapması gerekmektedir. Aksi takdirde, yapay zekâ, insanlık için büyük bir tehlike haline gelebilir ve Pandora’nın kutusu açıldığında geri dönmek zor olabilir. Medya, yapay zekâ teknolojisinin tıp alanında olumlu yönde kullanımını haber yaparken, potansiyel tehlikelerini de gözler önüne sermeli. Toplumu bilinçlendirmek, olası tehlikelere karşı uyarmak, teknolojinin kullanım alanlarını da belirleyecektir.
