Avrupa Birliği (AB), hızla gelişen yapay zekanın insanlara, siyasete ve ekonomiye yönelik risklerine ilişkin endişelerin arttığı bir dönemde, yapay zeka şirketlerini denetlemek üzere yeni bir ekip oluşturdu.

AB'nin yapay zeka düzenlemesi "AI Act"in yeni hükümlerinin yürürlüğe girmesiyle Brüksel, yapay zeka modellerinin düzenlemeleri ihlal edip etmediğini izlemeye başlayacak.

Denetim kapsamında yapay zeka tarafından üretilen cinsel içerikler, sahte fotoğraf ve videolar ile kamu altyapısına yönelik siber tehditlerin yanı sıra yapay zekanın yol açabileceği "sistemik riskler" de incelenecek.

Avrupa Komisyonu, söz konusu riskler arasında kimyasal, biyolojik, radyolojik ve nükleer olaylar, yapay zeka sistemlerinin kontrolünün kaybedilmesi, siber saldırılar, zararlı manipülasyon ve temel haklara yönelik tehditlerin bulunduğunu bildirdi.

AB'nin teknoloji egemenliğinden sorumlu yetkilisi Henna Virkkunen, düzenlemenin uygulanmaya başlanmasının insanların ve işletmelerin anlayabileceği ve güvenebileceği bir yapay zeka ortamı oluşturulması açısından önemli bir adım olduğunu belirtti.

Yeni düzenlemeler kapsamında yapay zeka şirketlerinin, sohbet botları veya görüntülerin yapay zeka tarafından oluşturulduğunu tüketicilere açıkça belirtmesi gerekecek.

Şirketlerin bu amaçla etiketler veya dijital filigranlar kullanması öngörülüyor.

Avrupa Komisyonu, yapay zeka şirketlerinin belirli bilgileri belgelemekle yükümlü olacağını ve gerektiğinde soruşturmalar kapsamında şirket çalışanlarıyla görüşülebileceğini açıkladı.

AB, teknoloji çalışanlarının yasa dışı uygulamaları gizli şekilde bildirebilmesi için bir "İhbar Aracı", kullanıcıların da olası ihlalleri yetkililere bildirebilmesi amacıyla bir "Uyum Aracı" oluşturdu.

AB, Brüksel'deki Yapay Zeka Ofisi'ni 38 yeni personelle genişletti.

Yeni ekip, yeni kurulan yapay zeka şirketlerinin yanı sıra ABD ve Çin merkezli büyük teknoloji firmalarının faaliyetlerini de izleyecek.

Denetlenecek şirketler arasında OpenAI ve DeepSeek gibi yapay zeka alanındaki önde gelen firmalar da bulunuyor.

AB'nin "AI Act" olarak adlandırılan düzenlemelerini ihlal ettiği tespit edilen şirketlere para cezası uygulanabilecek. Brüksel ayrıca gerekli durumlarda şirketlerin AB pazarına erişimini kısıtlama yetkisine sahip olacak. (İLKHA)