Algoritma ve Yapay Zeka Kullanımında “Yeni bir robodebt krizine uyuyarak giriyoruz” Uyarısı: Albanese Hükümeti

Avukatlar Genel Başkanı Michelle Rowland. Hükümet, karar alma süreçlerinde algoritmalar ve yapay zekanın kullanımına dair şeffaflık eksikliğiyle suçlanıyor. Fotoğraf: Mick Tsikas/AAP

Avukatlar Genel Başkanı Michelle Rowland. Hükümet, karar alma süreçlerinde algoritmalar ve yapay zekanın kullanımına dair şeffaflık eksikliğiyle suçlanıyor. Fotoğraf: Mick Tsikas/AAP

Merkez’in Kamu Bütünlüğü raporunda, tüm otomatik karar verme süreçlerinin zorunlu denetimi ve kamuya açık kaydı gerektiği vurgulandı

• Son dakika haberleri e-postası, ücretsiz uygulama veya günlük haber podcast’inden yararlanın

Federal hükümet, karar alma süreçlerinde algoritmalar ve yapay zekanın kullanımına dair şeffaflık ve mevzuat eksikliği nedeniyle “yeni bir robodebt skandalına doğru uyurken yakalanıyor”, bağımsız düşünce kuruluşu Kamu Bütünlüğü Merkezi’nin yöneticisi belirtti.

Dr Catherine Williams, merkez’in “Bilgisayar Diyor Ki Hayır” raporunu Perşembe günü tanıttı; raporda hükümetin otomatik karar verme (ADM) araçlarını kullanımı inceleniyor ve acil reform çağrısında bulunuluyor.

Merkez, Avustralyalıların ADM’nin kendilerini etkileyen kararlarda kullanılıp kullanılmadığını bilmiyor olabileceklerinden endişe ediyor.

Sunulan sekiz öneri arasında, tüm ADM kullanımının zorunlu denetimi ve kamuya açık kaydı ile hükümeti bu konuda izleme, denetleme ve soruşturma yetkisine sahip bağımsız bir gözetim organı kurulması yer alıyor.

Williams, raporun merkez’in, yaşlı Avustralyalıların hak ettiği ev bakım hizmetinin düzeyini değerlendirmek için kullanılan hükümetin bütünleştirilmiş değerlendirme aracı (IAT) kapsamında bir algoritmanın kullanımına dair artan endişeleri ortamında hazırlandığını söyledi.

IAT’nin insanların ihtiyaçlarını ve paket haklarını düzenli olarak düşük değerlendirdiği, yaşlı bakım değerlendirmecilerinin ise hatalı algoritmik kararları geçersiz kılmaktan hükümet tarafından men edildiği tespit edildi.

“Yaşlı bakım algoritma aracıyla ilgili kanıtların ortaya çıkışını izledik ve açıkça hükümetin ADM kullanımını yönetecek uygun ve sağlam bir çerçevenin olmamasından giderek artan bir şekilde endişe ettik,” dedi Williams.

“Başka bir robodebt senaryosuna uyurken yürüdüğümüzü hissediyoruz ve bu yüzden bu çalışmayı şimdi öne sürme kararı aldık, umudumuz da ADM ile ilgili hükümetin önerdiği herhangi bir çerçeveye ışık tutabilmesidir.”

Yargıçlar Genel Müdürlüğü, ADM çerçevesini geliştiriyor; halk danışmanlığı Ocak 2025’te sona erecek.

Genel Savcı Michelle Rowland, taslak çerçevenin ne zaman tamamlanıp halka açılacağına dair sorulara yanıt vermedi ancak hükümetin “ADM’nin güvenli ve sorumlu kullanımını sağlamak, Avustralya topluluğu için zamanında ve verimli hizmetler sunmak için kararlı olduğunu” söyledi.

Çerçeve, robodebt’ye ilişkin Kraliyet Araştırması’nın önerilerini uygulayacak, dedi.

Ocak ayında yayımlanan bir federal ombudsman raporu, robodebt Kraliyet Araştırması’nın şeffaflık önerilerinin, IAT’nin geliştirilmesi ve hayata geçirilmesi sırasında hükümet tarafından görmezden gelindiğini buldu.

Rowland, herhangi bir ADM çerçevesinin geriye dönük olup olmayacağına dair sorulara yanıt vermedi ancak bunun “idari kararların doğruluğunu ve tutarlılığını iyileştirmek, şeffaflık yükümlülükleri de dahil olmak üzere sağlam güvence mekanizmalarını yerleştirmek ve ADM’nin yasal, sorumlu ve uygun insan gözetimi altında kullanılmasını sağlamak üzere tasarlanacağını” söyledi.

Çerçeve aynı zamanda verimliliği de yükseltecek ve daha hızlı, daha güvenilir hizmetlerin sunulmasına yardımcı olacak, dedi.

Eylül ayında bağımsız milletvekili Kate Chaney, hükümetin ADM kullanımına yönelik ilk mevzuatla düzenlenmiş, zorunlu bir çerçeveyi kurmak için özel bir üyenin tasarısını meclise getirdi.

Genel Savcı Müdürlüğü’nin ADM çerçevesi için yürüttüğü danışmanlık sürecinin “neredeyse iki yıl önce bittiğini” söyledi.

“Bununla ilgili olarak genel savcı ile görüştüm ve ‘Üzerinde çalışıyoruz’ diyorlar. Bence baskıyı sürdürmek gerçekten önemli, çünkü çok zor olduğu için bırakılmaması için.”.

Chaney, devlet dairelerinin ADM kullanımıyla ilgili kararları çok az tutarlılık veya şeffaflıkla aldığını söyledi.

“Hükümet, kamu hizmetinde maliyet tasarrufu sağlamaya çalışıyor ve kararların otomatikleştirilmesi bu tasarruflara ulaşmanın bir yolu olabilir,” dedi.

“Ancak bende hükümete olan güven düşük. Kararların ne zaman otomatikleştirildiği ve bunların otomatikleştirilmesinin uygun olmadığı durumlar konusunda şeffaflık gerekli; insanların bir kararın neden verildiğine dair net bir anlayış edinmesi ve bu karara itiraz yollarının ne olduğu konusunda gerçekten açık olması gerekiyor.

“İnsanların hükümetten beklendiği şey bu.”

Bu konular hakkında daha fazlasını keşfedin

• Avustralya politikası
• İşçi Partisi
• Yapay zeka
• haber