16 Ekim Salı günü 15 dernek tarafından Danıştay'a itirazda bulunuldu: CAF Aile Yardımı Fonu'nun derecelendirme algoritmasının kullanımının durdurulması amaçlanıyor. Bu durumda, AB Adalet Divanı ele geçirilebilir: Bu otomatik araca ve diğer yönetimlerde kullanılan diğer araçlara kesin bir darbe indirmeye yetecek kadar, ikincisini ayrımcı ve sorunlu olmaktan öte bir şey olarak değerlendiren dernekler umut ediyor.
Dolandırıcılığı tespit etme aracı olarak sunulan hükümet derecelendirme algoritmaları yakında geçmişte mi kalacak? 15 Ekim Salı günü Ulusal Aile Harcırahı Fonu'na (CNAF) karşı Danıştay nezdinde yasal işlem başlatan on beş derneğin umduğu da budur. Görüşlerinde: CNAF puanlama algoritması, ancak yalnızca bu değil. La Quadrature du Net, Uluslararası Af Örgütü Fransa, İnsan Hakları Birliği, Fransız Avukatlar Birliği ve diğer on bir STK CNAF'ın sosyal dolandırıcılığa karşı mücadelesinin bir parçası olarak hangi alıcıyı kontrol edeceğine karar vermesine olanak tanıyan araca en yüksek idari mahkeme önünde saldırdı.
Geçtiğimiz Temmuz ayında, bu dernekler Fon'dan bu algoritmanın her türlü kullanımına son vermesini talep ettiler; kendilerine göre bu, en güvencesiz olanların aşırı kontrol edilmesi anlamına gelecekti ve muhtıralarında açıkladılar. CNAF'ın, kabul edilemezliğin sona ermesi anlamına gelecek olan iki aylık sessizliğinin ardından, CNAF yasal yollara başvurmaya karar verdi. Bu çağrıyla dernekler, Fransa'daki diğer yönetimler tarafından kullanılan bu algoritmanın da diğerleri gibi tamamen rafa kaldırılmasını umuyor.
Konu yeni olmaktan çok uzak. Geçen Kasım ayında Quadrature du Net, Caisse'in kaynak kodunun önceki iki versiyonuna erişime sahipti. Dernek, aracın en riskli kişileri hedeflediğine inanıyordu. Bu yazımızda size açıkladığımız gibi. Her şey Aralık 2022'de hücrenin yaptığı soruşturmayla başladı Radio France-Franceinfo'nun araştırması, CNAF'ın yararlanıcılarını dolandırıcılık riskine göre derecelendirdiğini ortaya çıkardı.
Alıcı ne kadar istikrarsız olursa, kontrol edilme olasılığı da o kadar artar.
15 STK'nın 16 Ekim Çarşamba günkü basın bülteninde hatırlattığı bir bağlam. Algoritma “ her yararlanıcıya, değeri kontrole tabi olanları seçmek için kullanılan bir şüphe puanı atar. Ne kadar yüksek olursa, kontrol edilme olasılığı da o kadar artar. Algoritma her ay CAF yardımı alan bir hanede yaşayan 32 milyondan fazla kişinin kişisel verilerini analiz ediyor ve 13 milyondan fazla puan hesaplıyor “.
La Quadrature du Net, önceki iki CAF algoritmasını yayınlayarak, değişkenlerinin potansiyel olarak güvencesizliğe düşme riskine (iş kaybı, durum değişikliği gibi) yol açması ne kadar fazlaysa, yararlanıcının o kadar yakın bir derecelendirmeye sahip olduğunu göstermişti. Dijital hakları savunma derneği, 1'e kadar ve kontrol edilme ihtimalinin daha yüksek olduğunu açıkladı.
CNAF için araç yalnızca hata yapma olasılığı en yüksek yararlanıcıları belirlemeyi amaçlıyor
Buna karşılık Fonun genel müdürü Nicolas Grivel, AFP'ye verdiği bir röportajda algoritmanın asıl amacının beyanlarında hata yapma olasılığı en yüksek yararlanıcıları belirlemek olduğunu belirtti. Bunun ayrımcı olmayacağını ve mutlaka en yoksul insanları değil, gelirleri farklılık gösterenleri hedef alacağını açıkladı. Bu çarşamba günü yine aynı yönetmen meslektaşlarımıza benzer bir açıklama yaptı. Araç, beyanlarında hata yapma olasılığı en yüksek yararlanıcıları belirlemeyi amaçlıyor. Önemli ve tekrarlanan vadesi geçmiş ödemeler “dedi.
STK’lar için hukuki eylem de bir o kadarını hedefliyor” izlemenin kapsamı ” O ” Bu algoritmanın, yaşamlarında zaten savunmasız durumda olan yararlanıcılara karşı gerçekleştirdiği ayrımcılık “.” Güvencesizliği ve dolandırıcılık şüphesini özümseyen bu algoritma, en dezavantajlı kesimlerin damgalanması ve kurumsal olarak kötü muameleye tabi tutulması politikasına katılmaktadır. », İlişkilendirmelere devam edin.
AB Adalet Divanı'nın kararı oyunun kurallarını değiştirebilir
Bu itiraz, Avrupa Birliği Adalet Divanı'nın (CJEU) durumu değiştirebilecek bir kararından on ay sonra gerçekleşti. 7 Aralık'ta Avrupalı yargıçlar, Avrupa'nın kişisel verilere ilişkin düzenlemesi olan GDPR uyarınca, insanların yaşamları üzerinde önemli bir etkisi olması durumunda her türlü otomatik derecelendirmenin yasak olduğuna karar verdi. Başka bir deyişle, kişisel verileri kullanarak derecelendirme sistemlerini kullanan her türlü karar alma işlemi yasa dışıdır.
Quadrature du Net, belki de CNAF sistemini ve Fransız yönetimlerinin diğer puanlama sistemlerini sorgulamaya yetecek kadar olduğunu açıkladı, “ En riskli durumdaki kişilerin tekrar tekrar kontrol edilmesi, otomatik uzaklaştırma, zaten çok zor durumda olan kişilerin gecikmiş iyileşmesi » ? Dernekler, Fransa'nın en yüksek idari mahkemesinden konuyu ABAD'a havale ederek onun görüşünü almasını (ön referans yoluyla) veya algoritmanın yasa dışı ilan edilmesini talep ediyor. CNAF'ın başındaki Nicolas Grivel, yine AFP'deki meslektaşlarımızla birlikte bize şu güvenceyi veriyor:“Eğer bir yargı alanı sistemi geliştirmek için (…) bir pozisyon alırsa, (CNAF da buna uyacaktır)”.
Dolandırıcılığı tespit etme aracı olarak sunulan hükümet derecelendirme algoritmaları yakında geçmişte mi kalacak? 15 Ekim Salı günü Ulusal Aile Harcırahı Fonu'na (CNAF) karşı Danıştay nezdinde yasal işlem başlatan on beş derneğin umduğu da budur. Görüşlerinde: CNAF puanlama algoritması, ancak yalnızca bu değil. La Quadrature du Net, Uluslararası Af Örgütü Fransa, İnsan Hakları Birliği, Fransız Avukatlar Birliği ve diğer on bir STK CNAF'ın sosyal dolandırıcılığa karşı mücadelesinin bir parçası olarak hangi alıcıyı kontrol edeceğine karar vermesine olanak tanıyan araca en yüksek idari mahkeme önünde saldırdı.
Geçtiğimiz Temmuz ayında, bu dernekler Fon'dan bu algoritmanın her türlü kullanımına son vermesini talep ettiler; kendilerine göre bu, en güvencesiz olanların aşırı kontrol edilmesi anlamına gelecekti ve muhtıralarında açıkladılar. CNAF'ın, kabul edilemezliğin sona ermesi anlamına gelecek olan iki aylık sessizliğinin ardından, CNAF yasal yollara başvurmaya karar verdi. Bu çağrıyla dernekler, Fransa'daki diğer yönetimler tarafından kullanılan bu algoritmanın da diğerleri gibi tamamen rafa kaldırılmasını umuyor.
Konu yeni olmaktan çok uzak. Geçen Kasım ayında Quadrature du Net, Caisse'in kaynak kodunun önceki iki versiyonuna erişime sahipti. Dernek, aracın en riskli kişileri hedeflediğine inanıyordu. Bu yazımızda size açıkladığımız gibi. Her şey Aralık 2022'de hücrenin yaptığı soruşturmayla başladı Radio France-Franceinfo'nun araştırması, CNAF'ın yararlanıcılarını dolandırıcılık riskine göre derecelendirdiğini ortaya çıkardı.
Alıcı ne kadar istikrarsız olursa, kontrol edilme olasılığı da o kadar artar.
15 STK'nın 16 Ekim Çarşamba günkü basın bülteninde hatırlattığı bir bağlam. Algoritma “ her yararlanıcıya, değeri kontrole tabi olanları seçmek için kullanılan bir şüphe puanı atar. Ne kadar yüksek olursa, kontrol edilme olasılığı da o kadar artar. Algoritma her ay CAF yardımı alan bir hanede yaşayan 32 milyondan fazla kişinin kişisel verilerini analiz ediyor ve 13 milyondan fazla puan hesaplıyor “.
La Quadrature du Net, önceki iki CAF algoritmasını yayınlayarak, değişkenlerinin potansiyel olarak güvencesizliğe düşme riskine (iş kaybı, durum değişikliği gibi) yol açması ne kadar fazlaysa, yararlanıcının o kadar yakın bir derecelendirmeye sahip olduğunu göstermişti. Dijital hakları savunma derneği, 1'e kadar ve kontrol edilme ihtimalinin daha yüksek olduğunu açıkladı.
CNAF için araç yalnızca hata yapma olasılığı en yüksek yararlanıcıları belirlemeyi amaçlıyor
Buna karşılık Fonun genel müdürü Nicolas Grivel, AFP'ye verdiği bir röportajda algoritmanın asıl amacının beyanlarında hata yapma olasılığı en yüksek yararlanıcıları belirlemek olduğunu belirtti. Bunun ayrımcı olmayacağını ve mutlaka en yoksul insanları değil, gelirleri farklılık gösterenleri hedef alacağını açıkladı. Bu çarşamba günü yine aynı yönetmen meslektaşlarımıza benzer bir açıklama yaptı. Araç, beyanlarında hata yapma olasılığı en yüksek yararlanıcıları belirlemeyi amaçlıyor. Önemli ve tekrarlanan vadesi geçmiş ödemeler “dedi.
STK’lar için hukuki eylem de bir o kadarını hedefliyor” izlemenin kapsamı ” O ” Bu algoritmanın, yaşamlarında zaten savunmasız durumda olan yararlanıcılara karşı gerçekleştirdiği ayrımcılık “.” Güvencesizliği ve dolandırıcılık şüphesini özümseyen bu algoritma, en dezavantajlı kesimlerin damgalanması ve kurumsal olarak kötü muameleye tabi tutulması politikasına katılmaktadır. », İlişkilendirmelere devam edin.
AB Adalet Divanı'nın kararı oyunun kurallarını değiştirebilir
Bu itiraz, Avrupa Birliği Adalet Divanı'nın (CJEU) durumu değiştirebilecek bir kararından on ay sonra gerçekleşti. 7 Aralık'ta Avrupalı yargıçlar, Avrupa'nın kişisel verilere ilişkin düzenlemesi olan GDPR uyarınca, insanların yaşamları üzerinde önemli bir etkisi olması durumunda her türlü otomatik derecelendirmenin yasak olduğuna karar verdi. Başka bir deyişle, kişisel verileri kullanarak derecelendirme sistemlerini kullanan her türlü karar alma işlemi yasa dışıdır.
Quadrature du Net, belki de CNAF sistemini ve Fransız yönetimlerinin diğer puanlama sistemlerini sorgulamaya yetecek kadar olduğunu açıkladı, “ En riskli durumdaki kişilerin tekrar tekrar kontrol edilmesi, otomatik uzaklaştırma, zaten çok zor durumda olan kişilerin gecikmiş iyileşmesi » ? Dernekler, Fransa'nın en yüksek idari mahkemesinden konuyu ABAD'a havale ederek onun görüşünü almasını (ön referans yoluyla) veya algoritmanın yasa dışı ilan edilmesini talep ediyor. CNAF'ın başındaki Nicolas Grivel, yine AFP'deki meslektaşlarımızla birlikte bize şu güvenceyi veriyor:“Eğer bir yargı alanı sistemi geliştirmek için (…) bir pozisyon alırsa, (CNAF da buna uyacaktır)”.
01net'ten hiçbir haberi kaçırmamak için bizi Google Haberler ve WhatsApp'tan takip edin.