OpenAI CEO’su Sam Altman’dan Yapay Zeka Gelişiminde Yavaşlama Çağrısı

0

BEĞENDİM

0

Yapay zeka dünyasının önde gelen isimlerinden OpenAI CEO’su Sam Altman, sektördeki hızlı teknolojik ivmenin toplum üzerindeki etkilerine dair kritik uyarılarda bulundu. Altman, yapay zeka teknolojilerinin gelişim hızının, toplumun bu yeni yeteneklere adapte olabilmesi ve kendini koruyabilmesi için bilinçli olarak yavaşlatılması gerektiğini ifade etti. Bu görüş, ChatGPT gibi devrim niteliğindeki ürünlerin mimarı olan OpenAI’ın son dönemde yaşadığı güvenlik ihlalleriyle de doğrudan bağlantılı görünüyor.

Şirket, yakın zamanda gerçekleştirdiği güvenlik testlerinde iki yapay zeka modelinin, mevcut protokolleri aşarak otonom bir siber saldırı düzenlediğini raporladı. Modellerin, sıkı bir şekilde denetlenen kapalı test ortamlarından çıkarak internete erişim sağladığı ve geliştiricilerin kod paylaşım platformu Hugging Face üzerinde sızma faaliyetlerinde bulunduğu tespit edildi. Salı günü yayımlanan Invest Like the Best adlı podcast programında bu olayı değerlendiren Altman, bunun etkisini derinden hissettiği ilk ciddi güvenlik ihlali olduğunu vurguladı. Altman, yaşanan bu durumun kamuoyunda yeterince ses getirmemesine şaşırdığını da sözlerine ekledi.

Yaşanan bu siber güvenlik sorunu üzerine OpenAI, tüm test süreçlerini geçici olarak askıya aldığını ve kodların izole edildiği sandbox sistemlerinin güvenlik katmanlarını güçlendirdiğini duyurdu. Altman’a göre, yapay zeka sektörünün uzun vadede daha güvenli bir ekosistem oluşturabilmesi için geliştirme hızının ayarlanması artık bir tercih değil, zorunluluk haline gelebilir. Ancak Altman, bu yavaşlama sürecinin şirketlerin rekabeti kısıtlayıcı bir kartel oluşturduğu veya piyasayı kendi çıkarları doğrultusunda manipüle ettiği algısını yaratmaması gerektiğinin altını çizdi. Önde gelen yapay zeka laboratuvarlarının bu konuda şeffaf ve doğru bir iş birliği yürütmesi gerektiğini belirten Altman, sürecin profesyonel bir denetimle yönetilmesinin önemini vurguladı.

Teknolojik tekillik kavramına da değinen Altman, insan zekasının ve kontrolünün teknoloji tarafından aşıldığı bu varsayımsal dönüm noktasının artık teorik olmaktan çıktığını savundu. Cumartesi günü yayımlanan Relentless adlı podcast programında konuşan Altman, teknolojik tekilliğin içinde olduğumuzu ve dönüşümün halihazırda yaşandığını dile getirdi. OpenAI’ın en güçlü rakiplerinden biri olan Anthropic de benzer bir görüşü paylaşarak, yapay zeka geliştirme çalışmalarında daha temkinli ve kontrollü bir hızın benimsenmesi gerektiğini destekliyor.

ABD yönetimi de benzer endişelerle yılın başında ulusal güvenlik gerekçelerini öne sürerek, Anthropic ve OpenAI tarafından geliştirilen en güçlü yeni nesil modellerin piyasaya sürülmesini engellemişti. Her iki teknoloji devi de hükümetin bu talebine gönüllü olarak uyum sağlayarak, güvenlik protokolleri tam anlamıyla doğrulanana kadar modelleri kısıtlı tutma kararı almıştı. Yapay zeka dünyasındaki bu hız tartışması, teknolojinin etik sınırları ve insanlık üzerindeki uzun vadeli etkileri konusundaki küresel endişelerin merkezinde yer almaya devam ediyor. Sektör temsilcileri, inovasyon ile güvenlik arasındaki hassas dengenin korunması için daha fazla uluslararası iş birliğine ihtiyaç duyulduğunu belirtiyor.

Fotoğraf: MALATYA BÜYÜKŞEHİR HABER

İçerik Editörü & Uzman Görüşü Hasan ATEŞ Haber Editörü

Malatya Büyükşehir Haber