Generale

Pristrasnost u umjetnoj inteligenciji zahtijeva disciplinu i suosjećanje


Pristrasnost u AI je kritično pitanje koje je u porastu u posljednjih 18 mjeseci. Ekstremni primjeri imaju ogromne utjecaje, poput Amazonovog seksističkog bota za zapošljavanje i Microsoftovih pokušaja AI Twittera.

Panel nazvan ‘Rješavanje pristranosti u umjetnoj inteligenciji’ na CES-u 2019, izbjegao je ove zastrašujuće naslove i pokušao voditi promišljenu raspravu o tome kako napraviti značajnu promjenu u sektoru koji se brzo širi.

Kao i mnogi paneli do sada, rasprava se držala relativno stroge linije oko regulatorne kontrole.

Predstavnik panela i industrije i vlade

Michael Hayes, stariji menadžer za vladine poslove pri Asocijaciji potrošačkih tehnologija moderirao je razgovorom članova odbora Austina Carsona iz Nvidije, Bari Williams, potpredsjednice za pravne, političke i poslovne poslove svih kornjača i Sunmin Kim savjetnika za tehnološku politiku iz Ureda. senatora Briana Schatza.

Williams je započeo postupak govoreći o načinu na koji se pristranost može sagledati iz više različitih uglova. Objasnila je da je za sebe osobno pristranost doživljavala različito, ovisno o tome ponaša li se kao majka prema svoje troje djece, identificirajući se kao crnkinja ili gledajući kroz sočivo svog advokatskog posla.

Ovo je ključna stvar koju treba primijetiti i jedan je od razloga zašto stvarno prepoznavanje pristranosti može biti pola bitke. Panel je brzo naglasio da, za razliku od ostalih dijelova tehnološke industrije, pristranost u AI ne dolazi od loših aktera, već zbog loših informacija.

Loši podaci, nisu loši glumci

Nijedan od panela nije sugerirao da je pristranost posljedica zlonamjernog inženjeringa, već je kombinacija mnogih čimbenika koji se odnose i na ulaz i na izlaz. Federalna trgovinska komisija objavila je 2016. izvještaj o velikim podacima s pitanjem da li je on inkluzivan ili ekskluzivan.

Izvještaj je završen pozivanjem korisnika velikih podataka da razmisle je li njihov skup podataka koji se koristi za izradu algoritama reprezentativan ili predstavlja samo određeni segment.

Drugo, provocira kreatore AI tehnologije da pitaju šta algoritam radi, kako to izdvaja? Zasniva li svoju odluku na faktorima povezanim s njezinim namjernim podacima ili drugim obrascima koje bi mogao identificirati i koji nenamjerno stvaraju pristranost?

Što se tiče propisa, panel se složio da vlada može učiniti više, ali da je posjedovanje stručnog znanja iz industrije u procesu donošenja odluka ključno za napredak.

Još jedna stvar koju je panel pokrenuo i o kojoj je raspravljalo bila je potreba za raznim timovima u tehničkoj tehnologiji općenito. Što su raznolikiji inženjerski i programski timovi vjerovatnije je da će pristrasnost biti uočena i riješena ranije, umjesto da se zadržava i razvija s vremenom.

Različiti timovi znače da je vjerovatnije da će pristranost biti shvaćena ozbiljno.

Ključ različitosti u rješavanju pristrasnosti

Rješenje za povećanu raznolikost rečeno je na prethodnom panelu, a izazovi povećanja broja žena i ljudi u boji u tehnici i dalje tinjaju na CES-u.

Još jedna fascinantna poenta koju je panel pokrenuo bila je ideja da AI zaista može pomoći u otkrivanju i prevladavanju pristranosti. Tehnički ne bi trebalo biti bolje mašine za traženje pristranosti od inteligentne AI.

U zaključku, Hayes je čestitao panelu na prisustvu i obraćanju teškim idejama vezanim za pristranost u AI. Dalje je rekao da je prvi korak u prevladavanju pristranosti prepoznavanje toga što je danas učinjeno na panelu.


Pogledajte video: Princip rada Toplotne pumpe Geotermika Rubikon (Oktobar 2021).