Zavádzanie AI v regulovanej firme: pravidlá pred nástrojmi
V súčasnej práci vediem zavádzanie AI a spravujem nástroje. Na poradí záleží: najprv úlohy, potom nástroje, potom pravidlá a prístupové práva a až potom pilot. Nižšie sú kroky v poradí a kontrola, ktorú každý krok potrebuje. V tomto článku je agent asistent nastavený na jednu úlohu, s vlastnými pokynmi a vlastnou prístupovou skupinou.
Začnite úlohami
Opýtajte sa každého oddelenia, ktoré úlohy zaberú najviac času a s akými údajmi pracujú. Ku každej úlohe poznačte, ako často sa robí, aké údaje potrebuje, kto kontroluje výsledok a čo sa stane, ak je výsledok chybný. Tento zoznam rozhoduje o tom, kde sa AI oplatí vyskúšať.
Vyberte málo nástrojov
Nástroje posudzujte podľa dvoch zoznamov: čo potrebuje firma a čo vyžaduje ochrana údajov. Testujte ich na tých istých reálnych úlohách. Každý ďalší nástroj prináša ďalšiu sadu pravidiel, používateľov a prístupových práv, ktoré treba spravovať, takže malý súbor nástrojov sa spravuje ľahšie.
Napíšte pravidlá používania
Stačí jedna strana, ak odpovedá na tieto otázky.
- Aké údaje sa smú zadávať a čo sa nesmie zadať nikdy?
- Kto musí výstup skontrolovať skôr, než sa použije?
- Ako sa označuje obsah vytvorený s pomocou AI?
- Čo sa zaznamenáva a kto vidí záznam?
- Kto rozhoduje o výnimkách?
V zdravotníctve odpoveď na prvú otázku zahŕňa údaje pacientov a nezverejnené tvrdenia. Krátky príklad:
- Nezadávajte údaje pacientov ani nezverejnené tvrdenia.
- Každé číslo a každé tvrdenie skontrolujte voči zdroju.
- Obsah vytvorený s pomocou AI označte interne ešte pred kontrolou.
- Používajte len nástroje zo schváleného zoznamu, pod vlastným prihlásením.
- Čokoľvek nečakané nahláste administrátorovi.
Nastavte prístupové práva
Vytvorte prístupové skupiny podľa roly a podľa citlivosti údajov. Nie každý potrebuje každý nástroj alebo každého agenta. Určený administrátor spravuje používateľov a skupiny a pravidlá preveruje vždy, keď sa nástroje zmenia.
Kto za čo zodpovedá
- Vedenie firmy program sponzoruje a rozhoduje, aké veľké riziko je prijateľné.
- Administrátor spravuje nástroje, používateľov, skupiny a záznam.
- Každé oddelenie určí jednu osobu, ktorá pozná jeho úlohy a odpovedá kolegom na otázky.
- Ochrana údajov a právne oddelenie preveria pravidlá pred začiatkom pilotu.
Spustite pilot s kritériami úspechu
Kritériá dohodnite pred začiatkom pilotu a dohodnite aj dátum, kedy rozhodnete, či pilot rozšíriť, zmeniť alebo ukončiť. Typickými kritériami sú čas, ktorý úloha zaberie, množstvo prepracovania po kontrole, počet ľudí v tíme, ktorí nástroj používajú, a incidenty alebo prípady, keď k incidentu takmer došlo. Môj pilot zahŕňa 12 AI agentov pre 8 oddelení s kritériami úspechu dohodnutými vopred.
Riziká a kontrola pre každé z nich
| Riziko | Kontrola |
|---|---|
| Dôverné údaje alebo údaje pacientov zadané do nástroja | Pravidlá používania, prístupové skupiny, len schválené nástroje |
| Chybné alebo neschválené tvrdenia v obsahu | Kontrola človekom, asistenti obmedzení na schválenú terminológiu a pravidlá tvrdení |
| Zamestnanci používajú neschválené nástroje na vlastnú päsť | Schválené nástroje, ktoré úlohu zvládnu |
| Zastarané pravidlá | Administrátor pravidlá preveruje, keď sa zmenia nástroje alebo úlohy |
Po pilote
Vyhodnoťte výsledky voči kritériám a pravidlá aktualizujte tým, čo pilot ukázal. Na ďalšie tímy rozširujte postupne. Záznam si uchovajte.
Vo farmácii, kde sa AI dotýka regulovaných dokumentov, počítajte s ďalšími požiadavkami, napríklad s validáciou a auditnou stopou. Overte si ich s oddeleniami kvality a compliance.
Zavedenie AI vo vašom tíme je jeden zo štyroch spôsobov, ako s firmami spolupracujem. Pozrite si časť Spolupráca na úvodnej stránke.