Yapay zekanın potansiyel tehlikeleri üzerine endişeler giderek artıyor. OpenAI, yapay zekanın kendi kendini geliştirme olasılığını göz önünde bulundurarak yeni bir güvenlik ekibi oluşturma hazırlıklarını sürdürüyor. Şirketin yayımladığı iş ilanında, “recursive self-improvement” yani yapay zekanın insan müdahalesi olmadan kendini geliştirmesi senaryoları üzerinde çalışacak araştırmacılara yıllık 295 bin ila 445 bin dolar arasında maaş sunulacağı belirtildi. Adayların, henüz ortaya çıkmamış tehditleri önceden görebilme yeteneğine ve güçlü teknik bilgiye sahip olmaları bekleniyor.
YAPAY ZEKANIN OTOMATİK GELİŞİMİ ÜZERİNDE TARTIŞMALAR SÜRÜYOR
Son dönemde yazılım geliştirme alanında yapay zeka araçlarının hızlı bir şekilde evrim geçirmesi, teknoloji dünyasında çeşitli tartışmalara yol açtı. Sektör uzmanları, yapay zekanın zamanla kendi araştırmalarını yürütebilecek ve kendisini geliştirebilecek bir aşamaya ulaşabileceğini savunuyor. OpenAI’nin, araştırma süreçlerini otomatikleştirebilen sistemler üzerinde çalıştığı ifade ediliyor. Anthropic’in ortak kurucusu Jack Clark ise, 2028 yılına kadar insan müdahalesi olmaksızın çalışan yapay zeka araştırma süreçlerinin ortaya çıkma olasılığını yüzde 60 olarak tahmin etti.
GÜVENLİK AÇIKLARINA DİKKAT
Uzmanlar, kendi kendini eğitebilen yapay zeka sistemlerinin hızla güçlenebileceği ve kontrol altına alınmasının zorlaşabileceği konusuna dikkat çekiyor. OpenAI’nin iş ilanına göre, yeni ekibe katılacak araştırmacılar, veri zehirleme saldırılarına karşı savunma mekanizmaları geliştirme, yapay zeka modellerinin düşünme süreçlerini analiz etme ve gelişmiş sistemlerin güvenlik açıklarını test etme görevlerini üstlenecek. Ayrıca, yapay zeka araçlarının teknik çalışanların iş yüklerini ne ölçüde otomatikleştirdiği izlenecek.
Yazar: Yusuf Arslan
