Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zekâ (AI) modellerinin geliştirilme hızının düşürülmesi çağrısının ardından yapay zekânın kontrol edilemez hale gelebileceğine ilişkin tartışma büyüyor. Google DeepMind’dan Demis Hassabis ve Elon Musk, Amodei’nin açıklamalarına destek verirken, OpenAI CEO’su Sam Altman son açıklamasında, yapay zekânın yaratabileceği riskler konusunda “Dünya korkmakta haklı” dedi, ancak teknoloji şirketlerinin güvenliği sağlayacağı konusunda kamuoyunun sektöre güvenmesi gerektiğini söyledi.

"DÜNYA KORKMAKTA HAKLI AMA..."

Anthropic CEO’su Dario Amodei’nin gelişmiş yapay zekâ modellerinin geliştirilme hızının düşürülmesi çağrısının ardından teknoloji devleri arasında yapay zekânın kontrol edilebilirliğine ilişkin tartışma büyüyor.

OpenAI CEO’su Sam Altman, San Francisco’da düzenlenen Salesforce konferansında, yapay zekânın hızla gelişen kabiliyetlerinin doğurduğu endişeler hakkında, “Bunun ne kadar yanlış gidebileceğini hayal etmek artık eskisi kadar zor değil. Bence dünya bundan korkmakta haklı” dedi. Bununla birlikte Altman, yapay zekâ şirketlerinin teknolojiyi güvenli biçimde geliştirebileceğine de güvendiğini söyledi.

"BÜYÜKLÜĞÜNÜN FARKINDAYIZ"

Altman, “Dünya, doğru olanı yapacağımız konusunda bize güvenmeli. Çünkü bunun büyüklüğünün farkındayız” ifadelerini kullandı. Altman, güvenlik çalışmalarını yapay zekânın gelişen kabiliyetlerinin önünde tutacaklarını, bunu sağlayamamaları halinde ise geliştirme hızını düşüreceklerini veya çalışmaları durduracaklarını ifade etti.

TARTIŞMAYI AMODEI'NİN ÇAĞRISI ALEVLENDİRDİ

Tartışma Anthropic CEO’su Dario Amodei’nin hafta sonu yayımladığı ve yapay zekâ şirketlerine teknolojinin gelişim hızını düşürme çağrısı yaptığı yazının ardından büyüdü.

Amodei, güvenlik önlemlerinin teknolojik ilerlemeye yetişebilmesi için en gelişmiş modellerin kabiliyetlerindeki artış hızının düşürülmesi çağrısında bulundu. Şirketlere bağımsız güvenlik değerlendiricisi taraflar yerleştirilmesi, önde gelen yapay zekâ şirketlerinin ortak güvenlik standartları belirlemesi ve risklerin azaltılması için uluslararası işbirliğine gidilmesini teklif etti.

Çağrı, normalde yapay zekâ yarışında birbirleriyle rekabet eden sektörün önde gelen isimlerinden destek gördü. Altman, Google DeepMind’dan Demis Hassabis ve Elon Musk, Amodei’nin yaklaşımını destekledi. Musk, Amodei’nin açıklamasına kısa bir cevap vererek, “Dario haklı” dedi.

TRUMP'TAN TEKNOLOJİ DEVLERİNE TEPKİ

Teknoloji sektöründeki çağrılara en sert karşı çıkışlardan biri ise ABD Başkanı Donald Trump’tan geldi. Trump, yapay zekânın “dünyayı ele geçireceği ve insanlığı yok edeceği” yönündeki endişeleri “aldatmaca” olarak nitelendirdi. Yapay zekâ ve veri merkezlerine karşı “hasta bir komplo” yürütüldüğünü öne süren Trump, sektör üzerindeki yeni kısıtlamaların ABD’nin Çin karşısındaki rekabet gücünü zayıflatabileceğini savundu. “Yapay zekâyı kim kazanırsa, kazanır” diyen Trump, yeni güvenlik düzenlemelerine ihtiyaç olmadığını ve mevcut cezai ve düzenleyici yetkilerin yeterli olduğunu ileri sürdü.

NVIDIA CEO’SU HUANG: “YENİ YASALARA İHTİYACIMIZ YOK”

Nvidia CEO’su Jensen Huang da yapay zekânın geliştirilmesinin yavaşlatılmasına karşı çıkan isimler arasında yer aldı. Huang, “Yeni yasalara veya düzenlemelere ihtiyacımız yok” diyerek yapay zekâ güvenliğinin esas olarak bir “mühendislik problemi” olduğunu savundu.

Şirketlerin mümkün olduğunca hızlı ilerlemesi gerektiğini belirten Huang, ancak geliştirdiği sistem üzerinde kontrolünü kaybettiğini değerlendiren şirketlerin ürünü piyasaya sürmemesi gerektiğini söyledi. 

ŞİRKETLER KENDİ DENETİMLERİNİ KENDİLERİ Mİ YAPACAK?

Tartışmanın bir diğer ayağını ise yapay zekâ şirketlerinin kendi güvenlik kurallarını belirlemesinin yeterli olup olmadığı oluşturuyor. Altman, şirketlerin güvenlik konusunda büyük ölçüde kendi kendilerini denetleyebileceklerini savunurken, Anthropic'in kurucularından Jack Clark, yapay zekânın “tamamen düzenlenmemiş bir sektör” olarak bırakılmasının “çok büyük risklerle zar atmak” anlamına geleceğini söyledi.

SANDERS: "KARARI HALK VERMELİ"

ABD Senatörü Bernie Sanders da yapay zekânın geleceğine ilişkin kararların Elon Musk, Meta CEO’su Mark Zuckerberg ve Amazon'un kurucusu Jeff Bezos gibi “dünyanın en zengin birkaç kişisinin” elinde olmaması gerektiğini savundu. Sanders, “Yapay zekâ konusunda kararları bu ülkenin halkı vermeli, yalnızca bir avuç oligark değil” dedi. Trump’ın eski başstratejisti Steve Bannon da teknoloji şirketlerinin kendi kendilerini denetlemesine karşı çıktı.

Buna karşılık Meta CEO’su Mark Zuckerberg, yapay zekâ laboratuvarlarının güvenliği sağlamak için hem imkâna hem de ekonomik teşvike sahip olduğunu belirterek, güvenliğe önem vermeyen şirketlerin geride kalacağını savundu. (ANKA)