AVRUPA BİRLİĞİ YAPAY ZEKA TÜZÜĞÜ

Avrupa Birliği Yapay Zeka Tüzüğü 1 Ağustos 2024 tarihinde yürürlüğe girmiştir.

Yapay zeka tüzüğü, Avrupa Birliği tarafından, düzenlemiş ve yürürlüğe sokulmuştur. Dünya üzerinde, yapay zekaya ilişkin olarak ilk ve tek kapsamlı düzenlemedir. Yapay zeka uygulamalarını risk kategorilerine göre ayırt etmektedir. Buna göre, üç adet risk alanı bulunmaktadır.

Öncelikle yapay zeka yasasının amaçlarından biri olarak, yapay zeka geliştiricilerine ve dağıtıcılarına, yapay zekanın kullanımına ilişkin olarak net gereksinimler ve yükümlülükler sağlar. Düzenleme aynı zamanda işletmelerde, idari ve mali işleri azaltmayı amaçlamaktadır. Yapay zeka tüzüğü, güvenilir yapay zekanın gelişimini desteklemektedir. Bu yönde politikalar düzenlenmiştir. Bu çerçevede yapay zeka söz konusu olduğunda insanların ve işletmelerin güvenliğini ve temel haklarını garanti altına alacaktır.  Bunun yanı sıra AB genelinde yapay zekanın benimsenmesini, yatırımını ve inovasyonunu güçlendirecektir. Yapay zeka tüzüğü, yapay zeka ile ilgili, ilk başta belirtildiği gibi, dünya çapında ilk kapsamlı yasal ve temel düzenlemedir. Yeni kuralların amacı ise, yapay zeka sistemlerinin temel haklara etik ilkelere saygı göstermesini sağlayarak çok güçlü ve etkileyici olmak, yapay zeka modellerinin risklerini ele alarak Avrupa’da ve ötesinde güvenilir yapay zekayı teşvik etmektir.

Getirilen kurallar, özellikle yapay zeka tarafından üretilen riskleri ele alacaktır. Kabul edilmez risler oluşturan yapay zeka uygulamaları yasaklanacak, yüksek riskli uygulamaların bir listesi tutulacaktır. Yüksek riskli uygulamalar için yapay zeka sistemleri net gereksinimler belirleyecek, yüksek riskli yapay zeka uygulamalarının dağıtıcı ve sağlayıcıları için belirli yükümlülükler saptanacaktır. Böylece, belirli bir yapay zeka sistemi, hizmete girmeden veya piyasaya sürülmeden önce, bir uygunluk denetiminden geçecektir. Belirli bir yapay zeka sistemi bu suretle piyasaya sürüldükten sonra yaptırım uygulanacak ve hem ulusal düzeyde hem de Avrupa düzeyinde bir yönetişim yapısı oluşturacaktır.

YAPAY ZEKAYA RİSK TEMELLİ YAKLAŞIM 

AB Komisyonu yapay zeka tüzüğünü hazırlarken risk temelli bir yaklaşım sergileyeceğini açıklamıştır.  Farklı risk oranlarına göre farklı kurallar getirilerek daha güvenli bir ortamın sağlanması hedeflenmektedir. Bu risk sınıflandırması sırasıyla; düşük risk, yüksek risk ve kabul edilemez risktir. risklerin yanı sıra şeffaflık  da değerlendirmeler arasında yerini almaktadır. Bu suretle yapay zeka sistemleri için risk sıralaması şöyle olacaktır; kabul edilemez risk, yüksek risk, sınırlı risk, düşük risk şeklindedir.

KABUL EDİLEMEZ RİSK 

Aynı zamanda yasaklı olarak da adı geçen bu kategorideki yapay zekalar, sosyal puanlama, biyometrik kategorizasyon sistemleri ve dezenformasyona yol açan modelleri kapsamaktadır. Bu sistemler;

• bilinçaltı, manipülatif veya aldatıcı teknikler kullanılarak daavranışları çarpıtmak ve biliçli karar verme sürecini bozarak önemli zararlara yol açabilen,
• yaş, engellilik veya sosyo-ekonomik koşullarla  ilgili zayıflıklardan yararlanılarak davranışları çarpıtmak ve önemli zararlara neden olabilen,
• yasal olarak elde edilen biyometrik veri kümelerinin etiketlenmesi veya filitrelenmesi ya da kolluk kuvvetlerinin biyometrik verileri kategorize etmesi haricinde hassas nitelikler çıkaran biyometrik kategorizasyon sistemleri,
• sosyal puanlama ile bireyleri ya da grupları sosyal davranışlarına veya kişisel özelliklerine göre değerlendirmek veya sınıflandırmak, bu kişilerin zararlı veya elverişsiz muamele görmesine neden olan,
• suç faaliyetleriyle doğrudan bağlantılı, nesnel, doğrulanabilir gerçeklere dayalı, insan değerlendirmelerini güçlendirmek için, kullanılmadığı sürece, bir bireyin suç işleme riskinin yalnızca profil çıkarma veya kişilik özelliklerine göre değerlendiren,
• internetten veya CCTV görüntülerinden hedeflenmemiş yüz görüntülerinin kazınması yoluyla, yüz tanıma veri tabanlarını derleyen,
• tıbbi veya güvenlik sebepleri dışında, iş yerlerinde veya eğitim kurumlarında duyguların çıkarılmasına neden olan,
• kayıp bir şahsın aranması haricinde, kolluk kuvvetleri için kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama yapanlar şeklinde sıralanmıştır.

YÜKSEK RİSK 

Yüksek risk olarak sınıflandırılan yapay zeka sistemleri;

• ulaşım gibi vatandaşların hayatını ve sağlığını riske atabilecek kritik altyapılar,
• sınav puanlandırılması gibi, bir kişinin eğitimini ve hayatının mesleki seyrini belirleyebilecek eğitim veya mesleki eğitim,
• robot destekli cerrahide yapay zeka uygulaması gibi, yardımcı aletlerde güvenlik bileşenleri,
• işe alım prosedürü için CV sıralama yazılımı gibi istihdam, çalışanların yönetimi ve serbest mesleklere erişim sistemleri,
• vatandaşların kredi puanlamasını yapan yazılımlar gibi, temel, özel ve kamu hizmetleri,
• kanıtların güvenilirliğinin değerlendirilmesi gibi, insanların temel haklarına müdahale edebilecek, kolluk kuvvetleri sistemleri,
• vize başvurularının otomatik olarak incelenmesi gibi, göç, iltica ve sınır kontrol yönetimi sistemleri,
• mahkeme kararlarını yapay zeka ile arama gibi, adalet yönetimi ve demokratik süreçlerin olduğu sistemler yer almaktadır.

Yüksek riskli yapay zeka üreticilerinin izlemesi gereken prosedür, önce bir değerlendirme aşamasından geçmekte sonra ise bir veri tabanına kaydedilmektedir. Uygunluk beyanı alındıktan ve CE işaretine sahip olduktan sonra, sistem piyasaya sürülebilir hale gelmektedir. Yüksek riskli yapay zeka sisteminde bir değişiklik olması durumunda sistemin uygunluk değerlendirmesi tekrar yapılmalıdır.

SINIRLI RİSK 

Aynı zamanda, bazı durumlarda risksiz olarak da sınıflandırılan bu yapay zeka sistemleri, yapay zeka destekli video oyunları veya spam filtreleri gibi uygulamalarda dahildir. Şu andan Avrupa Birliği’nde uygulanan yapay sistemlerinin büyük çoğunluğu bu kategoriye girmektedir.