Büyük teknoloji ne yaptığınızı bilmeli mi: Scale AI’ye gözetleme suçlaması

Avrupa'da önde gelen bir veri koruma örgütü, Scale AI adlı Amerikan girişimine karşı, eğitim platformu Outlier'ın çalışanları izleme biçiminin haklarını ihlal ettiği gerekçesiyle kıtada beş hukuki şikayet sunduğunu açıkladı. Adım, Avrupa'da yapay zeka şirketlerinin artan incelemeyle karşı karşıya kaldığı bir dönemde atıldı; AB Yapay Zeka Ofisi bu ay OpenAI ve Anthropic hakkında soruşturmalar başlattı.

Öte yandan ABD'de, Başkan Donald Trump, ülkenin en büyük altı yapay zeka şirketinin kendilerini denetlemesine izin veren bir anlaşma imzaladı; bu, teknolojinin küresel ölçekte nasıl yönetileceği konusunda artan görüş ayrılıklarının bir işareti olarak görülüyor. Yapay zekanın insanların işlerini ellerinden alabileceği ve zararlı amaçlarla kullanılabileceği yönündeki endişeler de dünya genelinde giderek artıyor.

Avrupa Dijital Haklar Merkezi (Noyb), salı 27 Ekim'de yayımladığı açıklamaya göre Avusturya'da iki, Fransa'da bir, Hollanda'da bir ve İtalya'da bir olmak üzere toplam beş şikayet başvurusu yapıyor. Başvurular, çalışanların nasıl izlendiğine ve personel alımında kullanılan serbest çalışan sözleşme modelinin sağladığı yetersiz güvencelere ilişkin.

Scale AI'nin Outlier adlı yapay zeka platformu, Uber ve yemek teslimatı hizmetlerinde kullanılanlara benzer bir platform işçisi modelinden yararlanarak, serbest çalışanları ve alanında uzman kişileri yapay zeka modellerini eğitmek, değerlendirmek ve geliştirmek üzere işe alıyor. Noyb'a göre platform, yapay zeka sistemlerinin yanıtlarını değerlendirmek ve düzeltmek için 900 binden fazla serbest çalışandan yararlanıyor; müşterileri arasında Meta, OpenAI, Google ve ABD hükümeti yer alıyor.

Örgüt, bunun çalışanların “uzmanlıklarını fiilen ABD'li büyük teknoloji şirketlerine aktardığı” bir süreç olduğunu savunuyor. STK, Outlier'ın “büyük miktarda kişisel veri topladığını ve işçileri para kazanmak için son derece müdahaleci bir biyometrik doğrulamadan geçmeye zorladığını” söyledi.“Avrupa'da bu kadar kapsamlı işyeri gözetimi, çalışanların veri koruma konusundaki temel haklarını açıkça ihlal ediyor” dedi.

Noyb, çalışanlar Outlier platformunda görev yaparken TikTok, LinkedIn ve Facebook gibi şirketlere ait izleme araçlarının cihazlarına yerleştirildiğini ve bunların kişisel verilerine erişim sağladığını öne sürüyor. Grup, buna IP adresleri, iletişim bilgileri ve hedefli reklamcılık ile profilleme için kullanılabilecek verilerin de dahil olduğunu belirtti.

“Çalışırken böylesine sürekli ve kapsamlı bir izlenme, makul olan tüm beklentilerle açıkça çelişiyor. LinkedIn'in ya da Facebook'un hangi görevler üzerinde çalıştığınızı bilmesi için ne gerekçe olabilir?” diye konuştu Noyb'da Veri Koruma Hukukçusu Lisa Steinfeld Leiser.

Kuruluş ayrıca, Scale AI'nin çalışanları, yüzlerinin video kaydını çekmeyi ve kimliklerini yüklemeyi içeren, Persona adlı bir şirket tarafından yürütülen biyometrik doğrulama sürecinden defalarca geçmeye zorladığını iddia ediyor.