Nový nástroj AI Fairness pro boj s nefér umělou inteligencí

Nový nástroj AI Fairness pro boj s nefér umělou inteligencí
08 / 07 / 2018, 14:00

AI Fairness Tool umí rychle vyhodnotit, zda systémy umělé inteligence produkují spravedlivé výsledky

Společnost Accenture vytvořila nový nástroj, který zákazníkům pomůže identifikovat a napravit nespravedlivé zkreslení algoritmů AI (Artifical Intelligence – umělé inteligence). Cílem je zachytit diskriminaci dříve, než začne infikovat modely AI a způsobovat škodu. Nástroj AI Fairness je součástí širšího balíčku, který poradenská firma nedávno nabídla svým zákazníkům jako podporu transparentnosti a etiky při zavádění strojového učení.

Počítačové algoritmy se dostávají do role, kdy v prvním sítu rozhodují o řadě záležitostí – dělají jakýsi předvýběr, který předkládají k dořešení „lidským“ kolegům. A tak umělá inteligence může rozhodovat o tom, zda určitý člověk dostane půjčku, nabídku zaměstnání, případně povolení k určité činnosti. Společnost Accenture se proto v rámci aktivit zaměřených na odstranění podjatosti k AI rozhodla vytvořit nástroj, který vyhodnocuje, zda systémy AI rozhodují spravedlivě a objektivně.

Umělá inteligence sama o sobě nemůže být spravedlivá nebo nespravedlivá, jde o to, že algoritmy, které pro rozhodování využívá, mohou kodifikovat nesprávné lidské chápání. Nový nástroj společnosti Accenture nazvaný Fairness Tool, je určený k rychlé identifikaci a následné pomoci při řešení problémů v algoritmech. „Našim cílem je zpřístupnit tento nástroj non-tech společnostem z Fortune 500, které chtějí rozšířit své používání AI, ale obávají se rizika neúmyslných dopadů,“ říká Rumman Chowdhury, lídr v oblasti umělé inteligence společnosti Accenture. „V minulosti jsme našli modely, které jsou celkově velmi přesné, ale pokud se podíváte, jak se určitá chyba rozkládá nad podskupinami, uvidíte obrovský rozdíl mezi tím, jak správný je určitý model například pro bílého muže ve srovnání s černou ženou.“

Nástroj také hledá proměnné, které souvisejí s dalšími citlivými proměnnými. Algoritmus by například nemusel explicitně zohledňovat pohlaví, ale pokud se podívá na příjem, mohl by snadno oddělit výsledky pro ženy a muže. Vyšetřuje také míru chyb pro každou proměnnou, a zda jsou chyby vyšší pro některou skupinu. Po této analýze je nástroj schopen opravit algoritmus, ale protože tento typ korekce může způsobit snížení jeho přesnosti, navrhne řešení a umožní uživateli rozhodnout, nakolik se má změnit.

AI Fairness Tool může najít uplatnění v různých nejen průmyslových odvětvích, přičemž se předpokládá, že prvními uživateli budou ti, kteří se nacházejí v nejvíce regulovaných oborech - například finančních služeb a zdravotní péče, kde je potenciál nežádoucích dopadů AI velký.

„Vidíme rostoucí zaměření na algoritmické zkreslení a spravedlnost. Řada států vytváří etické rady AI,  Google nedávno vydal své etické pokyny,“ konstatuje Rumman Chowdhury. „Takže si myslím, že lídři v oboru AI, stejně jako non-tech společnosti, hledají cestu. Hledají standardy a protokoly a něco, čím se mohou řídit, protože chtějí vytvářet a využívat bezpečné produkty.“

O společnosti Accenture

Accenture je globální společnost poskytující široké spektrum odborných služeb a řešení v oblasti strategických, konzultačních, digitálních a technologických služeb.  Díky kombinaci jedinečných zkušeností a obsáhlých znalostí napříč více než 40 průmyslovými odvětvími s rozsáhlým výzkumem nejúspěšnějších světových firem, Accenture dokáže řešit propojení byznysu a technologií s cílem pomoci klientům zvýšit jejich výkon a vytvořit udržitelnou hodnotu pro jejich akcionáře. Inovativní služby společnosti Accenture zajišťuje více než 425 000 zaměstnanců ve více než 120 zemích. Navštivte naše stránky www.accenture.com.

Tagy článku

SECURITY magazín je ve své tištěné podobě první a jediný český odborný časopis o komerční bezpečnosti a vychází od roku 1994. SECURITY magazín se orientuje především na profesionály v přímém výkonu služby v soukromých bezpečnostních agenturách a ve firmách, které poskytují technické bezpečnostní služby. Je určen také manažerům, kteří uvedené služby prodávají a řídí a bezpečnostním specialistům, kteří bezpečnostní služby nakupují v soukromém i státním sektoru. Zkušenosti a informace v SECURITY magazínu jsou ale určeny i laické veřejnosti, potenciálním zákazníkům, kteří o bezpečnosti velmi často mluví a ne vždy jí rozumí nebo chápou její specifika. SECURITY magazín chce tradiční spoluprací s akademickým prostředím a experty v oboru dokázat, že komerční bezpečnost je multioborová disciplína, úzce propojená požadavky norem a předpisů a je v mnoha ohledech založena na moderních vyspělých technologiích, které mohou instalovat a provozovat pouze vzdělaní specialisté.

Cookies nám pomáhají k Vaší spokojenosti

Tento web používá soubory cookies k poskytování služeb, personalizaci reklam a analýze návštěvnosti.
Používáním tohoto webu s tím souhlasíte.

Další informace