Gürkan Özsoy Blog

Yapay zekayı düzenlemeye yönelik ilk büyük girişimler her taraftan gelen rüzgarlarla karşı karşıya

Yapay zeka, hangi Amerikalıların iş görüşmesi, daire, hatta tıbbi bakım alacağına karar vermeye yardımcı oluyor, ancak yapay zeka(YZ) karar vermede önyargıyı dizginlemeye yönelik ilk büyük teklifler her yönden rüzgarla karşı karşıya.

Colorado, Connecticut ve Teksas gibi eyaletlerde bu tasarılar üzerinde çalışan milletvekilleri Perşembe günü bir araya gelerek, sivil haklar odaklı gruplar ve endüstri, mevzuatın temel bileşenleri ile çekişme halindeyken önerilerini savunmak için bir araya geldi. “Yürüttüğümüz her yasa tasarısı bildiğimiz dünyanın sonunu getirecek. Bu, politikaları yürütürken duyduğunuz ortak bir konu” dedi Colorado Demokrat Senato Çoğunluk Lideri Robert Rodriguez Perşembe günü. “Hiçbir yerde bizim yaptığımız ölçüde yapılmamış bir politika ile buradayız ve iyi politika yapmaya çalışırken kırdığımız bir cam tavan var.”

İşçi sendikaları ve tüketici savunma grupları da dahil olmak üzere kuruluşlar, şirketlerin daha fazla şeffaflık sağlamasını ve vatandaşların yapay zeka ayrımcılığı konusunda dava açmaları için daha fazla yasal başvuru hakkı talep ediyor. Sektör ise geçici bir destek sunuyor ancak bu hesap verebilirlik önlemleri konusunda ayak sürüyor. Aralarında Alaska, Georgia ve Virginia’dan milletvekillerinin de bulunduğu iki partili milletvekilleri grubu, federal eylemsizlik karşısında birlikte yapay zeka mevzuatı üzerinde çalışıyor. Perşembe günü, eyaletler ve paydaşlar arasında yaptıkları çalışmaları vurgulayarak, yapay zeka mevzuatına olan ihtiyacı vurguladılar ve eyalet sınırları boyunca düzenleyici tutarsızlıklardan kaçınmak için işbirliği ve uzlaşmanın önemini pekiştirdiler. Ayrıca, yasa tasarılarının ileride üzerine inşa edilebilecek bir ilk adım olduğunu savundular.

Alaska’nın Cumhuriyetçi Senatörü Shelley Hughes basın toplantısında “Bu yeni bir sınır ve bir bakıma biraz vahşi, vahşi bir Batı” dedi. “Ancak bu, geçen mevzuatın taş gibi olmadığını, zaman içinde değiştirilebileceğini hatırlatan iyi bir şey.” Yapay zeka ile ilgili 400’den fazla yasa tasarısı bu yıl ülke çapında eyalet meclislerinde tartışılırken, çoğu bir sektörü veya teknolojinin sadece bir parçasını hedef alıyor – seçimlerde veya pornografik görüntüler oluşturmak için kullanılan deepfake’ler gibi.

Milletvekillerinden oluşan bu ekibin ortaya koyduğu en büyük yasa tasarıları, özellikle teknolojinin en sapkın ikilemlerinden biri etrafında geniş bir gözetim çerçevesi sunuyor: YZ ayrımcılığı. Örnekler arasında Siyah tıbbi hastaları doğru bir şekilde değerlendiremeyen bir yapay zeka ve iş başvurularını filtrelerken kadınların özgeçmişlerinin notunu düşüren bir başka yapay zeka yer alıyor. Yine de, Eşit İstihdam Fırsatı Komisyonu’nun tahminlerine göre, işverenlerin %83’ü işe alımlarda yardımcı olması için algoritmalar kullanıyor. Brown Üniversitesi bilgisayar ve veri bilimi profesörlerinden Suresh Venkatasubramanian, bu algoritmaların tasarımında önyargının azaltılması üzerine bir ders verdiğini ve hiçbir şey yapılmazsa, bu yapay zeka sistemlerinde neredeyse her zaman önyargı olacağını açıkladı. “İlk etapta önyargılı olmamak için açık bir şeyler yapmak zorundasınız” dedi.

Başta Colorado ve Connecticut’ta olmak üzere bu teklifler karmaşıktır, ancak temel itici güç, şirketlerin ABD’dekiler için karar vermede büyük rol oynayan YZ sistemleri için “etki değerlendirmeleri” yapmaları gerekliliğidir. Bu raporlar, YZ’nin bir karara nasıl dahil olduğuna dair açıklamaları, toplanan verileri ve ayrımcılık risklerinin bir analizini ve şirketin güvenlik önlemlerinin bir açıklamasını içerecektir.

YZ sistemleri hakkındaki bilgilere daha fazla erişimin zorunlu kılınması, kamu için daha fazla hesap verebilirlik ve güvenlik anlamına geliyor. Ancak şirketler bunun aynı zamanda dava ve ticari sırların ifşa edilmesi riskini de artırmasından endişe ediyor. Teknoloji CEO’ları ve üst düzey yöneticilerden oluşan iki partili bir ağ olan TechNet’ten David Edmonson yaptığı açıklamada, kuruluşun “herhangi bir mevzuatın YZ’nin riskini ele alırken inovasyonun gelişmesine izin vermesini sağlamak” için milletvekilleriyle birlikte çalıştığını söyledi. Colorado ve Connecticut’taki yasa tasarılarına göre, yapay zeka kullanan şirketlerin hükümete rutin olarak etki değerlendirmeleri sunmaları gerekmeyecek. Bunun yerine, ayrımcılık tespit ettiklerinde başsavcıya bildirmeleri gerekecek – bir hükümet veya bağımsız bir kuruluş bu YZ sistemlerini önyargı açısından test etmeyecek.

İşçi sendikaları ve akademisyenler, şirketlerin kendi kendilerini rapor etmelerine aşırı güvenmenin, kamunun veya hükümetin YZ ayrımcılığını zarar vermeden önce yakalama yeteneğini tehlikeye attığından endişe ediyor.

Colorado’nun yasa tasarısına karşı çıkan işçi sendikaları federasyonu Colorado AFL-CIO’yu temsil eden Kjersten Forseth, “Milyarlarca dolara sahip bu dev şirketler varken zaten zor,” dedi. “Esasen onlara bir işçiyi ya da tüketiciyi ezmeleri için fazladan bir çizme veriyorsunuz.”

Kaliforniya Ticaret Odası, etki değerlendirmelerinin davalarda kamuya açıklanabileceği endişesiyle bu eyaletin tasarısına karşı çıkıyor. Yasa tasarılarının bir diğer tartışmalı unsuru da yasa kapsamında kimlerin dava açabileceğidir; yasa tasarıları genel olarak eyalet başsavcıları ve diğer kamu avukatlarıyla sınırlıdır – vatandaşlarla değil. Kaliforniya’daki tasarıda vatandaşların dava açmasına izin veren bir hükmün çıkarılmasının ardından, bir finans ve İK yazılım şirketi olan Workday teklifi destekledi. Workday, vatandaşların açacağı davaların, kararları çoğu teknoloji uzmanı olmayan yargıçlara bırakacağını ve düzenlemede tutarsız bir yaklaşımla sonuçlanabileceğini savunuyor.

Haverford College’da yapay zeka önyargıları üzerine çalışan profesör Sorelle Friedler ise buna karşı çıkıyor. Friedler, “Amerikan toplumu haklarımızı genellikle dava açarak savunur,” dedi.

Connecticut’ın Demokrat Eyalet Senatörü James Maroney, kendisinin ve Temsilci Giovanni Capriglione’nin (R-Texas), sektör tarafından yasalara karşı lobi yapmak için harcanan onca paraya rağmen “sektör tarafından yazılmış yasa tasarılarını desteklediklerini” iddia eden makalelerde geri tepme olduğunu söyledi. Maroney, bir endüstri grubu olan Consumer Technology Association’ın reklamlar yayınladığını ve bir web sitesi kurarak milletvekillerini yasayı reddetmeye çağırdığını belirtti. “Doğru yolda olduğumuza inanıyorum. Sektörden, akademiden ve sivil toplumdan insanlarla birlikte çalıştık,” dedi. “Herkes kendini güvende hissetmek istiyor ve biz de güvenli ve güvenilir bir yapay zekâya olanak tanıyacak düzenlemeler oluşturuyoruz” diye ekledi.

Kaynak: Associated Press muhabirleri Trân Nguyễn Sacramento, Kaliforniya’dan, Becky Bohrer Juneau, Alaska’dan, Susan Haigh Hartford, Connecticut’tan katkıda bulunmuştur.