Ustaljeno mišljenje u automobilskoj industriji je da će kontrolu nad vozilima u skorijoj budućnosti preuzeti veštačka inteligencija, ali u više istraživanja se pokazalo da samovozeći automobili imaju određenu dozu diskriminacije, a da su u najvećoj opasnosti deca.
Da bi automobili bez vozača mogli na putevima da budu ravnopravni sa ljudima, tehnika koju koriste mora biti gotovo savršena jer samo jedna greška u kodu može značiti razliku između života i smrti. Zato automobilske i tehnološke kompanije sprovode dugotrajno obučavanje veštačke inteligencije koja upravlja vozilima i treniraju je u različitim stvarnim i simuliranim uslovima.
U više slučajeva do sada pokazalo se kako istraživači pri obučavanju veštačke inteligencije mogu biti pristrasni, pa i rezultati veštačke inteligencije mogu biti takvi – neki AI alati za zapošljavanje su diskriminisali žene, ChatGPT je pokazao znakove rasizma i diskriminacije, a već smo pisali i o policijskim alatima za prepoznavanje lica koji su pogrešno identifikovali osobe tamnije puti, zbog čega su nezasluženo završili u zatvoru.
Kako je pokazalo istraživanje koje su sproveli britanski i kineski naučnici, takva pristrasnost pri obučavanju veštačke inteligencije prisutna je i pri obučavanju AI-a za autonomne automobile, što bi se u nekim situacijama moglo pokazati pogubnim i tragičnim. Kako piše zimo.dnevnik.hr, naučnici su istraživali sisteme prepoznavanja pešaka i pokazalo se da postoji razlika u prepoznavanju osoba u zavisnosti od starosti i rase.
I u ovom slučaju pokazalo se da sistem ne funkcioniše dobro kada su u pitanju osobe tamnije puti. U prošlosti su pripadnicima manjina uskraćivane osnovne usluge, a danas mogu dobiti teške povrede, komentarisala je naučnica Jie Zhang, koja je učestvovala u istraživanju koje je pokazalo da je 7,52 posto veća šansa da će sistem za detekciju pešaka prepoznati osobu svetlije puti u poređenju sa osobama tamnije puti.
Još je gore kada su u pitanju deca, odnosno postoji čak 20 posto veća verovatnoća da će sistem prepoznati odraslu osobu u poređenju sa detetom. S obzirom na to da robotaksiji već neko vreme voze u nekoliko američkih gradova, jasno je da se rezultati moraju uzeti sa velikom ozbiljnošću. Naučnici koji su učestvovali u istraživanju su pozvali zakonodavce na bolju regulaciju softvera za autonomnu vožnju kako bi se sprečila pristrasnost u sistemima za detekciju pešaka.
PROČITAJTE I:
Leave a Reply