Eski Google Yöneticisi, Yapay Zekayla Tüm Dünyada Virüs Yayabileceğinizi ve Pandemi Başlatabileceğinizi Açıkladı!
Tek bir tıklamayla tüm dünyayı tehdit edebilecek bir güce sahip olmak mümkün mü? Yapay zeka teknolojileri hayal edemeyeceğimiz potansiyellere sahip olabilir. Peki bu bir salgını başlatmak için kullanılabilir mi? Cevabı birlikte öğrenelim. ?
Kaynak: bir
Google DeepMind kurucu ortağı Mustafa Süleyman, yapay zekanın patojenleri daha tehlikeli hale getirmek için kullanılabileceği yönündeki endişelerini dile getirdi.
Eski Google yapay zeka uzmanı, yapay zekanın yanlış kullanıldığında sentetik virüsler üretebileceği ve böyle bir durumun pandemiye yol açabileceği uyarısında bulundu.
“En karanlık senaryo, insanların bilerek veya kazara patojenleri daha bulaşıcı veya öldürücü olan sentetik patojenlerle karıştırabilmesidir.”
Süleyman, şarbon gibi tehlikeli mikroplara erişimin sonlandırılması gerektiği gibi, gelişmiş yapay zeka teknolojilerine de kısıtlama getirilmesi gerektiğini belirtti.
“Bu tür deneyleri mümkün kılabilecek araçlara ve bilgilere erişimi kontrol etmemiz gerekiyor.”
Ayrıca lisans öğrencilerinin bile yapay zeka aracılığıyla detaylı biyolojik silah teklifleri alabildiğini belirten bir çalışma bu konudaki endişeleri artırdı.
Çalışma, yapay zekanın pandemiye neden olabilecek 4 patojeni ve bunların bir saat içinde nasıl üretileceğini önerebildiğini ortaya çıkardı.
MIT’den biyolog Kevin Esvelt’in de aralarında bulunduğu bu çalışmanın yazarları, bu tür tehlikeleri önlemek için çeşitli önlemlerin alınmasını öneriyor.
Bu önlemler, dil modellerinin üçüncü taraf değerlendirmesini, eğitim veri kümelerinin temizlenmesini ve sentez sağlayıcıları tarafından üretilen DNA’nın doğrulanabilir şekilde taranmasını içerir.
