OASI, hökumətlərin və şirkətlərin vətəndaşlar üçün istifadə etdiyi alqoritmləri tapan ilk axtarış motorudur

• Etikas Vəqfi tərəfindən yaradılan Sosial Təsirli Alqoritmlər Rəsədxanası, OASI, ictimai təsirləri haqqında daha çox məlumat əldə etmək üçün bütün dünyada Dövlət İdarələri və şirkətləri tərəfindən istifadə edilən onlarla alqoritmdən məlumat toplayır.
  
• Məqsəd, həm hökumətlər, həm də şirkət alqoritmləri haqqında məlumatlara ictimaiyyətə daxil olmaq və bunları kimin istifadə etdiyini, kimin inkişaf etdirdiyini, hansı təhdidləri təmsil etdiyini və digər xüsusiyyətlər arasında yoxlanıldığını bilməkdir.

• Alqoritm qərəzliyi və ayrı -seçkilik ümumiyyətlə digər dəyərlər arasında yaşa, cinsiyyətə, irqə və ya əlilliyə görə baş verir, lakin ümumi şəffaflıq olmaması səbəbindən təsirlənmiş qruplar üçün bütün nəticələrini bilmək hələ də mümkün deyil.

Alqoritmlərin və Süni Zəka (AI) sistemlərinin məsuliyyətlə istifadəsini təşviq edən Eticas Foundation qeyri-kommersiya təşkilatı Sosial Təsirli Alqoritmlər Rəsədxanasını (OASI) yaratdı. Bu Rəsədxana, bütün dünyada vətəndaşlar, istehlakçılar və istifadəçilər haqqında əhəmiyyətli avtomatlaşdırılmış qərarlar verən vasitələr haqqında daha çox məlumat əldə etmək üçün bir axtarış sistemi təqdim edir.

Hal -hazırda həm şirkətlər, həm də Dövlət İdarələri alqoritmlər sayəsində qərarları avtomatlaşdırırlar. Lakin, onun hazırlanması və istismara verilməsi xarici keyfiyyət nəzarətinə tabe olmur, nə də şəffaf olması, əhalini müdafiəsiz qoyur. Bu axtarış motoru ilə hər kəs bu alqoritmlər haqqında daha çox məlumat əldə edə bilər: kimlər tərəfindən hazırlanıb, kimlər istifadə edir, tətbiq dairələri, yoxlanılıb -yoxlanılmamaları, məqsədləri və ya sosial təsirləri və təmsil etdikləri təhdidlər.

hazırda, OASI 57 alqoritm toplayır, lakin sonrakı aylarda 100 -ə çatmağı gözləyir. Bunlardan 24 -ü artıq ABŞ -da Hökumət və Big Tech şirkətləri tərəfindən tətbiq olunur. Məsələn, ShotSpotter, Oakland Polis İdarəsi tərəfindən silah izləmə mikrofonları vasitəsi ilə silah zorakılığı ilə mübarizə və azaltmaq üçün istifadə edilən bir alqoritm vasitəsi və Pensilvaniya ştatının Allegheny County tərəfindən istifadə edilən uşaq istismarı və laqeydliyi proqnozlaşdırmaq üçün bir alqoritm. Bir şirkətin başqa bir nümunəsi, 2019-cu ilin əvvəlində MIT Media Lab tərəfindən yoxlanılan və qadın və ya tünd dərili bir fərdin cinsiyyətini təyin edərkən daha pis performans göstərdiyi Amazon-un üz tanıma sistemi olan Rekognition-dır.

Ən çox görülən ayrı -seçkilik yaş, cins, irq və ya əlillik səbəbiylə, Bu texnologiyanın təsirini başa düşmək üçün sosial -iqtisadi bacarıqları olmayan inkişaf etdiricilər tərəfindən təsadüfən hazırlanmışdır. Bu mənada, bu mühəndislər alqoritmləri yalnız texniki bacarıqlara əsaslanaraq hazırlayırlar və heç bir xarici nəzarət olmadığından və gözlənildiyi kimi işlədiyi görünür, alqoritm çatışmaz məlumatlardan öyrənməyə davam edir.

Bu alqoritmlərin bəzilərinin işləməsi ilə bağlı şəffaflığın olmadığını nəzərə alaraq, Eticas Foundation, OASI -nin işə salınmasından başqa, xarici audit layihəsi hazırlayır. Birincisi, İspaniya Daxili İşlər Nazirliyi tərəfindən məişət zorakılığına məruz qaldıqdan sonra qorunmaq istəyən qadınlara risk təyin etmək üçün istifadə olunan alqoritm VioGén. Eticas, nəticəni geniş miqyasda toplamaq üçün tərs mühəndislik və inzibati məlumatlar, müsahibələr, hesabatlar və ya dizayn skriptləri vasitəsilə xarici audit aparacaq. Bütün bunlar, bu qadınların müdafiəsinin yaxşılaşdırılması imkanlarını aşkar etmək məqsədi ilə.

Eticas Vəqfinin qurucusu Gemma Galdon, "Texnologiyanın mövcud qaydalara və əsas hüquqlara hörmət etməsini təmin etmək üçün alqoritmik nəzarət və audit metodlarının olmasına baxmayaraq, İdarə və bir çox şirkət vətəndaşlardan və qurumlardan şəffaflıq istəklərinə qulaq asmağa davam edir" dedi. . "OASI-yə əlavə olaraq, Alpha Telefónica, Birləşmiş Millətlər, Koa Sağlamlıq və ya Amerika İnkişaf Bankı kimi şirkətlər üçün birdən çox audit hazırladığımız bir neçə ildən sonra Alqoritmik Audit Kılavuzu da nəşr etdik. hər kəs onları yerinə yetirə bilər. Məqsəd həmişə məlumatlılığı artırmaq, şəffaflıq təmin etmək və texnologiyanın özünə güvənini bərpa etməkdir.

Bu mənada, keçmiş qərarlara əsaslanaraq seçim etməyi "öyrətmək" üçün böyük miqdarda tarixi məlumatlardan istifadə edərək maşın öyrənmə texnikası ilə öyrədilən alqoritmlər. Adətən bu məlumatlar tətbiq edildikləri sosial -iqtisadi və mədəni reallığı əks etdirmir, lakin bir çox hallarda əbədiləşdirilməsi nəzərdə tutulmayan ədalətsiz vəziyyəti əks etdirir. Bu şəkildə alqoritm, təlimlərinə görə texniki olaraq "düzgün" qərarlar verərdi, baxmayaraq ki, əslində onun tövsiyələrinin və ya proqnozlarının qərəzli və ya ayrı -seçkilik olmasıdır.

reklam

Eticas Vəqfi haqqında

Eticas Vəqfi, həyatımız haqqında avtomatlaşdırılmış qərarlar verən texnologiyalardakı bərabər imkanlar, şəffaflıq və ayrı-seçkilik etməmək kimi cəmiyyəti istiqamətləndirən prinsipləri texniki xüsusiyyətlərə çevirmək üçün çalışır. Dəyişən sosial dəyərlər, son inkişafların texniki imkanları və hüquqi çərçivə arasında bir tarazlıq axtarır. Bu məqsədlə alqoritmləri yoxlayır, rəqəmsal aləmə, xüsusən də Süni Zəkaya hüquqi zəmanətlərin tətbiq olunduğunu yoxlayır və məlumatlılığı artırmaq və məsuliyyətli, keyfiyyətli texnologiyaya olan ehtiyacı yaymaq üçün sıx iş aparır.

Bu məqaləni paylaşın: