YAPAY ZEKA
Çağdaş yapay zekâ sistemleri artık genel görevlerde insanlar için rekabetçi hale geliyor.
Editor
0
Salı günü, başta gelişmiş yapay zekâdan kaynaklanan varoluşsal riskleri azaltmak için çalışan bir kuruluş olan Future of Life Institute, “Pause Giant AI Experiments: An Open Letter” (Dev Yapay Zeka Deneylerini Durdurulmasına Dair Açık Bir Mektup) başlığı ile bir bildirge yayınlayıp dünya genelinde imza kampanyası başlattı ve güçlü yapay zeka sistemlerinin eğitimine en az 6 ay ara verilmesi talebini ortaya attı.
Elon Musk, Steve Wozniak ve Meta, Google ve Microsoft'tan teknoloji liderleri de dahil olmak üzere 1000’in üzerinde bir grup teknoloji ve iş liderinin imzaladığı deklarasyonla AI’nin yarattığı hızlı etkilerle baş edebilecek yasal, etik ve diğer insanı odaklar bazında hazır olan sistemler kurulmadan bu aladaki ilerlemelerin yaratacağı tehlikeler hakkında ciddi uyarılarda bulunurken aşağıdaki gibi uyarı ve isteklerde bulunuldu:
“ İnsan-rekabet zekâsına sahip yapay zekâ sistemleri, toplum ve insanlık için derin riskler oluşturabilir. Çağdaş yapay zekâ sistemleri artık genel görevlerde insanlar için rekabetçi hale geliyor. Sonunda sayıca üstün olabilecek, zekice üstün gelebilecek ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskine girmeli miyiz?
Güçlü yapay zekâ sistemleri, yalnızca etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir.
Bu nedenle, tüm yapay zekâ laboratuvarlarını GPT-4'ten daha güçlü yapay zekâ sistemlerinin eğitimine en az 6 ay ara vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yasalaştırılamazsa, hükümetler devreye girmelidir.
Yapay zeka laboratuvarları ve bağımsız dış uzmanlar tarafından titizlikle denetlenen gelişmiş yapay zeka tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır.
İnsanlık, AI ile gelişen bir geleceğin tadını çıkarabilir, buna hazır olduğunda meyvelerini yiyebilir ama bunlara hazırlıksız yakalanmak büyük bir tehlike içeriyor. Buna izin vermeyelim.”
Ne düşünüyorsunuz? AI medeniyetimizi yok etme tehlikesi mi yaratıyor? Bu ara verme çağırısı kabul görür mü?
