Predstavte si bežný pondelok na úrade. Úradníčka potrebuje rýchlo napísať odpoveď na sťažnosť, tak skopíruje celý list občana do verejného AI chatbota. Meno, adresa, popis sporu so susedom. Za tri sekundy má pekný návrh odpovede. A úrad má problém, o ktorom zatiaľ nevie.
Presne pred týmto scenárom nedávno varoval časopis Veřejná správa aj odborný web ISVS.CZ: o úspechu umelej inteligencie vo verejnej správe rozhodne ochrana osobných údajov. Z toho však nevyplýva, že umelá inteligencia na úrady nepatrí. Vyplýva z toho len to, že záleží na tom, z ktorej strany ju vezmete do ruky.
Prečo sa úrady boja umelej inteligencie (a prečo oprávnene)
Hneď ako úradník vloží osobné údaje do bežne dostupnej cloudovej služby umelej inteligencie, úrad stráca kontrolu nad tým, čo sa s údajmi ďalej deje. A zodpovednosť za to nenesie výrobca chatbota, ale vždy úrad ako správca osobných údajov. Tak to stanovuje GDPR a pripomína to aj zdrojový článok.
Preto úrady, ktoré to berú vážne, pred nasadením umelej inteligencie riešia interné pravidlá: aké údaje sa smú kam zadávať, ktoré služby sú schválené a ako človek kontroluje výstupy. To je správne a žiadna technológia to nemôže obísť. Avšak tento oprávnený rešpekt má vedľajší účinok. Mnohé obce kvôli nemu úplne odkladajú zavedenie umelej inteligencie, a to aj v prípadoch, kde nehrozí žiadne riziko. A to je škoda, pretože občania medzitým neprestali klásť otázky.
Kde je hranica medzi rizikom a bezpečným nasadením
Celú hranicu možno zhrnúť do jednej otázky: s akými údajmi umelá inteligencia pracuje?
Rizikový scenár je ten z úvodu. Umelá inteligencia dostáva osobné údaje občanov, ku ktorým by nemala mať prístup. Bezpečný scenár je presne opačný: umelá inteligencia pracuje výlučne s informáciami, ktoré obec sama zverejňuje. Úradné hodiny, poplatky, vyhlášky, aktuálne správy, obsah úradnej tabule. Teda údaje, ktoré sú zo zákona verejné a na prácu nepotrebujú žiadne osobné údaje.
V bezpečnom scenári sa občan opýta „kedy si môžem vybaviť novú známku na smetný kontajner“ alebo „ako zaplatím poplatok za psa“ a odpoveď sa vygeneruje z webovej stránky obce. Nikto nikam nezadáva cudzie rodné čísla ani susedské spory. Celá kategória rizík súvisiacich s osobnými údajmi vôbec nevznikne, pretože v systéme sa nenachádzajú. Toto rozlíšenie odporúčame každému starostovi ako prvý filter pri akejkoľvek ponuke umelej inteligencie: opýtajte sa dodávateľa, odkiaľ jeho systém čerpá údaje a čo sa deje s otázkami občanov. Kto nevie odpovedať jednou vetou, nie je pripravený na výkon verejnej funkcie.
Ako vyzerá umelá inteligencia pre občanov v praxi
Presne na tomto princípe sme postavili QARO AI, chatbota pre občanov, ktorý je súčasťou moderného webového portálu pre obce QARO. Odpovedá na otázky občanov 24 hodín denne a čerpá z verejných informácií obce.
V praxi už QARO AI funguje napríklad v Libochovanoch, Hodslaviciach alebo Divišove. Občan dostane odpoveď ihneď, aj v nedeľu večer, a úrad ráno nenájde desať rovnakých telefonátov. Úradníčka z úvodu môže naďalej používať hlavu a úrad má istotu, že umelá inteligencia komunikuje len to, čo je verejné.
Štát medzitým pripravuje metodiky a desať prikázaní pre zodpovedné využívanie umelej inteligencie vo verejnej správe. Určite má zmysel si ich prečítať. Nemusíte však na ne čakať: bezpečný spôsob, ako sprístupniť umelú inteligenciu občanom, existuje už teraz. Stačí dávať pozor na tú jednu vec, na ktorej to celé stojí. Dáta.
Chcete vidieť, ako by QARO AI odpovedalo na otázky vašich občanov?
