Yapay zekaya AB kriterleri

Avrupa Birliği (AB) bir ilke imza atarak, hızla yaygınlaşan yapay zeka teknolojilerine kurallar getirmeye hazırlanıyor.

"AB Yapay Zeka Yasası" ismini taşıyan ve küresel çapta ilk kez bu alanda en kapsamlı hukuki düzenlemeler öngören yasa tasarısı, bu hafta Avrupa Parlamentosu'nun gündeminde yer alıyor.

Metin üreticisi, sohbet robotu ChatGPT'yi piyasaya süren OpenAI şirketinin CEO'su Sam Altman, Almanya ziyareti sırasında bu düzenlemelere işaret ederek "aşırı regülasyon" uyarısı yaptı.

ChatGPT’yi piyasaya süren OpenAI şirketinin CEO’su Sam Altman. Fotoğraf: Elizabeth Frantz/REUTERS Hatta yeni düzenlemelerin kendilerine uymaması durumunda Avrupa'daki faaliyetlerine son verme tehdidinde bulunan Altman, daha sonra "elbette ayrılmak gibi bir planımız yok" diyerek söylemini yumuşattı, geri adım attı.

Sam Altman çok aranan, yapay zeka dünyasında ağırlığı olan bir isim. Hatta Berlin'de, Alman Şansölyesi Olaf Scholz tarafından bile kabul edildi.

OpenAI CEO'su Altman, ilkesel olarak yapay zeka için kurallar öngörülmesini olumlu bulduklarını söylemekle birlikte, "Ama bizim netliğe ihtiyacımız var" dedi.

Avrupa standartlarına uyum beklentisi Avrupa Parlamentosu'nun Sosyal Demokrat milletvekili René Repasi, OpenAI ya da ana şirketi Microsoft tarafından yürütülen üst düzey bu lobi faaliyetleri ve uyarılara oldukça sakin yaklaşıyor.

Avrupa pazarının, yapay zeka sağlayıcıları için "görmezden gelinemeyecek kadar cazip" olduğuna vurgu yapan Repasi, "Yapay zekasını burada satmak isteyen herkes standartlarımıza uymak zorunda" görüşünü aktardı.

Avrupa Parlamentosu’nun Sosyal Demokrat milletvekili René Repasi. Fotoğraf: Eric Vidal/European Union 2023/EP ABD Kongresi'nin de bu konuyla ilgili düzenlemelere gitmeye hazırlandığını, Amerikalı kongre üyeleriyle de iletişimde olduklarını anlatan Repasi, "Nihayetinde anlamlı standartlar oluşturmak istiyoruz, hedefimiz karşılıklı olarak rekabete girmek değil” diye konuştu.

Avrupalı parlamenter, Amerikan teknoloji şirketlerinin çok fazla sermayeye, muazzam miktarda veriye ve sonuna kadar savunmak istedikleri üstünlüğe sahip olduklarına dikkat çekerken, "Bu kadar çok teknoloji devinin ABD'de yerleşik olması, daha büyük inovasyonun nerede olduğuyla ilgili bir konu değil. Bu daha çok tekelcilerin faaliyet gösterdiği, bozuk pazar koşullarıyla ilgili bur durum" sözlerini kaydetti.

René Repasi, ayrıca AB'nin kabul etmeye hazırlandığı yeni kuralların, Avrupa'daki nitelikli start-up'ların yapay zekayı daha da geliştirmesine engel olmayacağının da altını çizdi.

Yapay zeka öncülerinden uyarılar Google'ın eski çalışanı ve yapay zekanın öncülerinden Geoffrey Hinton, son zamanlarda verdiği röportajlarda, geliştirilmesinde önemli rol oynadığı bu teknolojilerin oluşturabileceği tehlikeler konusunda uyarılarda bulundu.

Yakın bir gelecekte üretken yapay zekanın, bu teknolojileri üreten insanlardan daha gelişmiş bir zekaya sahip olabileceğine işaret eden Hinton, ayrıca bu teknolojilerin işgücü piyasasında yol açması muhtemel değişimin de öngörülemez olduğunu kaydetti.

Google’ın eski çalışanı ve yapay zekanın öncülerinden Geoffrey Hinton. Fotoğraf: Mark Blinch/REUTERS Bu sistemlerin yaratıcıları ile Microsoft ve Google yöneticileri, yapay zeka uygulamalarının artık nasıl işlediğini tam olarak bilmediklerini de itiraf ettiler.

Twitter'ın sahibi Elon Musk'ın da aralarında bulunduğu araştırmacılar ve girişimciler yazdıkları açık bir mektupta, yapay zekanın gelişimine sınırlar koymak için yıl sonuna kadar beklenmesi çağrısında bulundular.

AB ise, iki yıldır hazırlıkları süren yasa ile olası risk ve tehlikeleri önlemek istiyor.

AB düzenlemesi ne öngörüyor? Prensipte düzenlemeler yapay zeka uygulamalarının riskler bakımından sınıflandırılmasını öngörüyor.

İnsanların sosyal davranışlarını kabul edilemez şekilde analiz eden ve bu analizler sonucunda gelecekteki davranışlarıyla ilgili öngörülerde bulunan sistemler "yüksek riskli” olarak sınıflandırılacak ve yasaklanacak. Risk oluşturan sistemler kurallara, sınırlamalara tabi olacak. Daha basit uygulamalar, ki muhtemelen ChatGPT de bu kapsamda olacak, çok da ciddi sınırlamalara tabi olmayacak.

Fotoğraf: Arne Immanuel Bänsch/dpa/picture alliance Bununla birlikte yapay zeka ile verilen tüm hizmetler etiketlenecek. Bu hizmeti alan kişiler, muhatabının, hizmeti verenin, yapay zeka olduğunu bilecek.

Parlamenter René Reparsi, tüketici kredileri için yapılan başvuru süreçlerini örnek olarak gösterdi. Başvuruların günümüzde artık büyük ölçüde yapay zeka tarafından kontrol edildiğine dikkat çeken Reparsi, "Sonuç olumsuzsa, bunun bir insan tarafından kontrol edilmesi talep edilebilmeli. Zaten öncesinde de bir yapay zeka ile görüştüğünüzü bilmeniz gerekiyor" dedi.

AB yasası ne zaman yürürlüğe girer? AB yasasının yürürlüğe girmesi zaman alacak, hatta 2025 yılının başını bulabilir. Yürürlüğe girebilmesi için Avrupa Parlamentosu'nun onayının ardından, 27 üye ülkenin onayı gerekecek.

Avrupa Parlamentosu'nun Hristiyan Demokrat milletvekillerinden Axel Voss, bu yasa iki yıl önce ilk gündeme geldiğinde henüz ChatGPT gibi uygulamaların olmadığını, yasa yürürlüğe girdiğinde ise bu alanda çok daha büyük ilerleme kaydedilmiş olacağına işaret etti. Voss, yasa yürürlüğe girdiğinde yaşanan hızlı değişim nedeniyle bazı maddelerin o günün koşullarına uymayabileceğini de sözlerine ekledi.

CDU’lu siyasetçi Axel Voss. Fotoğraf: picture-alliance/dpa/J.-F. Badias Yıllardır yapay zeka konusunda çalışmalar yürüten ve AB'nin yasasını kaleme alanlar arasında yer alan Voss, çok katı yasaklardan kaçınılması gerektiği görüşünde.

Voss, "Aslında rekabet ve bu alanda zaten geriden geldiğimiz için yapay zeka konusunda daha güçlü ve iyimser bir ruh haline ihtiyacımız var. Ancak Avrupa Parlamentosu'ndaki çoğunluk açısından ortaya çıkan şey, insanların kendilerini korku ve endişelerin yönlendirmesine izin vermeleri ve her şeyi dışlamaya çalışmalarıdır" dedi.

AB üyesi ülkelerin veri koruma sorumluları yapay zeka uygulamalarının bağımsız olarak denetlenmesi ve veri koruma yasasında daha fazla düzenleme yapılması çağrısında bulundu.

Sosyal Demokrat milletvekili René Reparsi ise yasanın esnek olması, hangi uygulamaların yüksek riskli olduğuna ilişkin tespitlerin yasa metninde değil, eklerinde yer alması gerektiğini savundu. Reparsi, bu sayede daha hızlı değişiklik yapılabileceğini, değişime daha kolayca adapte olunabileceğini kaydetti.

TÜV güven tesis edebilir mi? Yeni yasa, Avrupa'da riskli yapay zeka uygulamaları satmak isteyenlere karşılanması gereken zorlu yükümlülükler getirecek. Ayrıca bu şirketler ürünleri için risk yönetimi oluşturmak zorunda olacak.

Verileri kullanılan kişilere, bu verilerinin hangi amaçlarla kullanıldığını bildirme zorunluluğu getirilecek.

Yapay zeka teknolojileri hızla gelişiyor. Fotoğraf: Cigdem Simsek/Zoonar/picture alliance İtalyan veri koruma otoritesi, veri korumadaki eksiklikler nedeniyle Nisan ayında ChatGPT'yi kısa bir süre yasaklamış, üretici OpenAI şirketi bazı değişiklikleri hayata geçirdikten sonra bu yasağı kaldırmıştı.

Almanya'da da ilgili kurumlar, Alman Federal Bilgi Güvenliği Ofisi ve Fraunhofer Enstitüsü, yapay zeka uygulamaları için özel bir sertifikayı yürürlüğe koymayı değerlendiriyor.

Tıpkı bir otomobilin TÜV'e gitmesi gerektiği gibi, yapay zekanın da, denetçiler tarafından teknik olarak sertifikalandırılması düşünülüyor. Böylelikle, şöförsüz araçlara ya da tıp alanında, örneğin ameliyatlar yapacak robotlara da güven tesis edilebilecek.

Yapay zekaya AB kriterleri

İki teknoloji devinden yapay zekaya dayalı stratejik iş birliği

Bilişim Zirvesi’24 “Zekaların Ortaklığı” İçin Sektörü Bir Araya Getirdi

İşte geleceğin kaybedecek ve parlayacak meslekleri

Telefonunuza her uygulamayı indirmeyin

Genç tasarımcılar hem dünyayı geziyor hem okuyor

Türkiye'nin ilk insansı robotu Tomyris, Türk vatandaşlığı talep etti!

Ümit Uysal’dan milli melek yatırımcı portföyü önerisi

Siber suçlarla mücadele için verilerini İnterpol'le paylaştı

Gemini Live, artık Türkçe kullanılabilecek

Başarılı bir metin yazmanın tüyoları