OpenAI/Altman: Yapay zeka risklerine karşı yeni kurallar getirilmeli
OpenAI CEO’su Sam Altman, önümüzdeki yıl yapılacak ABD seçimleri öncesinde “etkileşimli dezenformasyon” sağlama potansiyeline ilişkin uyarılara atıfta bulunarak, ABD’li milletvekillerini hızla gelişen AI teknolojisini düzenlemeye çağırdı.
Altman, gelişmekte olan teknolojinin düzenlenmesini memnuniyetle karşıladı ve salı günü ABD Senatosu gizlilik, teknoloji ve hukuk alt komitesi nezdindeki bir duruşmada bağımsız kontroller, lisanslama uygulamasını davet etti.
Altman’a ayrıca senatörler tarafından yapay zekanın yaklaşan seçimlerle ilgili olarak kamuoyunu tahmin etme ve etkileme yeteneği soruldu.
“Seçimleri etkileme yeteneği makul bir endişe alanıdır”
“Bu modellerin genel yeteneği bire bir etkileşimlerde dezenformasyon sağlamak, manipüle etmek, ikna etmektir. Önümüzdeki yıl bir seçimle karşı karşıya kalacağımızı ve bu modellerin giderek güzelleştiğini düşünürsek, bence bu değerli bir alan.” telaştan” dedi.
Altman, milletvekillerini bu teknolojiyi sunan şirketler için “ifşa açısından beklenenlere ilişkin yönergeler” oluşturmaya çağırdı. Ancak halkın bu teknolojinin gücünü kısa sürede fark edeceğini sözlerine ekledi.
“Photoshop uzun zaman önce sahneye çıktığında, insanlar bir süreliğine Photoshop’lu görüntülere gerçekten aldandılar ve ardından çok hızlı bir şekilde görüntülerin Photoshop’lu olabileceği anlayışını geliştirdiler. Bu emsal olacak” dedi.
Duruşma, dünyanın dört bir yanındaki düzenleyici kurumların ve hükümetlerin, Google ve Microsoft gibi Silikon Vadisi kümeleri tarafından geliştirilen potansiyel teknoloji suiistimallerine ilişkin incelemelerini ve endişelerini artırmalarının ardından geldi.
Geçen hafta AB milletvekilleri, ChatGPT gibi sohbet robotlarına getirilen kısıtlamalar da dahil olmak üzere yapay zekanın kullanımına ilişkin katı kurallar üzerinde anlaştılar.
Bu ayın başlarında ABD Federal Ticaret Kurulu ve İngiltere rekabet gözlemcisi de sektöre yönelik uyarı açıklamalarında bulundu. FTC, “şirketlerin yapay zeka teknolojisini nasıl kullanmayı seçebileceklerine yoğun bir şekilde odaklandığını” söylerken, İngiltere’nin Rekabet ve Piyasa Otoritesi, yapay zeka pazarının bir incelemesini başlatmayı planlıyor.
ABD Kongresi, teknolojiyi yönetmek için düzenlemelerin nasıl yapılacağını araştırırken, önümüzdeki aylarda sektörden daha fazla kaynakla konuşmayı planlıyor. Salı günkü duruşmada, gizlilik alt komitesine başkanlık eden Connecticut’tan Demokrat senatör Richard Blumenthal şunları söyledi: “Yapay zeka riskinin aşırı olduğu durumlarda, özellikle kar amaçlı ihlaller söz konusu olduğunda, yapay zeka kullanımını sınırlamamız ve hatta yasaklamamız gerekiyor.” ticari mahremiyet ve insanların geçim kaynaklarını etkileyen sorunlar.” terimleri kullandı.
“Bu teknoloji ters giderse oldukça ters gidebilir”
Altman, “Bence bu teknoloji ters giderse, oldukça ters gidebilir. Ve bu konuda sesimizin duyulmasını istiyoruz. Bunun olmasını önlemek için hükümetle birlikte çalışmak istiyoruz,” dedi.
Altman, ChatGPT altındaGPT-4 gibi temel teknolojinin “bazı işleri tamamen otomatikleştireceğini” kabul etti, ancak OpenAI’nin “çok daha iyi” olacağına inandığı yeni işler yaratacağını savundu.
Blumenthal, gelişen teknolojiyle ilgili “en büyük kabusunun” “yaklaşan yeni sanayi devrimi, milyonlarca işçinin yerinden edilmesi ve birçok işin kaybı” olduğunu söyledi.
Sosyal medyayı düzenlemek için hızlı hareket etmeme ve “geçmişteki hatalarımızı tekrarlamama” arzusuna değindi.
Son dönemde birçok değerli isim yaygarasını dile getirdi.
Son altı ayda inandırıcı insan benzeri yazılar üretebilen üretken yapay zekanın hızlı gelişimi, bazı yapay zeka etik uzmanları tarafından alarmla karşılandı.
Mart ayında, Twitter CEO’su Elon Musk ve 1.000’den fazla teknoloji araştırmacısı ve yöneticisi, OpenAI’nin sohbet robotu için kullandığı temel teknoloji olan GPT-4’ten daha güçlü yapay zeka dil modellerinin geliştirilmesine altı aylık bir ara verilmesi çağrısında bulundu. imzalamıştı.
Yapay zekanın babası olarak kabul edilen Geoffrey Hinton, bu ayın başlarında, teknoloji devinde on yıl geçirdikten sonra, sosyal bölünmeleri artırabileceği ve kötü aktörler tarafından sömürülebileceği konusunda uyardığı teknolojinin riskleri hakkında özgürce konuşmak için Google’dan ayrıldı.
