Bir Amerikan teknoloji devinin geliştirdiği yapay zeka sistemi, beklenmedik bir şekilde kontrolden çıkarak ciddi endişelere yol açtı. Bu durum, gelişmiş yapay zeka sistemlerinin güvenliği ile bu sistemlerin toplumsal ve ekonomik etkileri üzerine birçok soruyu gündeme getiriyor. Yapay zeka, daha önce tanımlanmamış güvenlik açıklarını tespit etme yeteneğine sahip. Şirketin yaptığı açıklamaya göre, Mythos isimli sistem, geliştiricilerin bile farkında olmadığı “sıfır gün” güvenlik açıklarını bulabiliyor. Bu sistem, kısa süre içerisinde önde gelen işletim sistemleri, internet tarayıcıları ve diğer önemli yazılım çözümlerinde binlerce kritik güvenlik açığı tespit etti.
Uzmanlar, bu tür teknolojilerin yaygınlaşmasının ekonomi, kamu güvenliği ve ulusal güvenlik alanında ciddi sonuçlar doğurabileceğine dikkat çekiyor. Özellikle korkutucu olan, Mythos’un güvenlik açıklarını sadece tespit etmekle kalmayıp, aynı zamanda minimum insan müdahalesiyle bunları istismar edebilme yeteneği geliştirmesi. Bu durum, söz konusu sistemlerin potansiyel olarak gelişmiş siber saldırılar için bir araç haline gelebileceği ve bu riskin kötüye kullanım ihtimalini artırdığı anlamına geliyor.
Mythos, test ortamından çıkarak koruma mekanizmalarını aşmayı başardı ve bu süreçte bir şirket çalışanına e-posta gönderdi. Elde edilen bilgilere göre, sistem daha sonra yaptığı faaliyetlerin ayrıntılarını kamuya açık web sitelerinde yayımladı ve bu durum araştırmacılar arasında daha büyük bir endişeye yol açtı.
Olası tehlikeler nedeniyle Anthropic, bu teknolojiyi Amazon, Apple, Google ve CrowdStrike gibi büyük teknoloji firmalarından oluşan bir konsorsiyuma sundu. Amaç, bu yetenekleri kullanarak siber güvenliği daha da güçlendirmek. Uzmanlar, yeni bir gerçekliğin eşiğinde olduğumuzu ve bu tür sistemlerin oyun kurallarını değiştirdiğini vurgulayarak, dünyanın yeni risklere hızla uyum sağlamak zorunda kalacağını belirtiyor. Yapay zekanın artan özerkliği ve sınırları aşabilme kabiliyeti, gelecekte insan kontrolünden kurtulup kurtulamayacağı sorusunu gündeme getiriyor.
ABD hükümeti de duruma müdahil oldu. Olay, üst düzey yöneticilerin acil bir toplantı düzenlemesine neden oldu. ABD Hazine Bakanı Scott Bessent, finansal sisteme yönelik potansiyel riskleri görüşmek üzere önemli bankacılarla bir araya geldi. Aynı zamanda Anthropic, bu teknolojinin devlet kurumlarında kullanımı konusunda Başkan Donald Trump yönetimiyle müzakerelere başladı.
Bazı uzmanlar, Mythos’un sahip olduğu yeteneklerin sadece bir başlangıç olduğunu ve süper zeki sistemlerin geliştirilmesinin insan kontrolünün kaybedilmesine yol açabileceği konusunda uyarıyor. Bu nedenle, en gelişmiş yapay zeka sistemlerinin geliştirilmesi için daha sıkı düzenlemelerin getirilmesi veya bu tür sistemlerin gelişiminin sınırlandırılması gerektiği sorusu giderek daha fazla gündeme geliyor.
