Souhrn APPSEC AI v praxi
Kde má AI pomáhat a kde rozhoduje člověk
Rozhovor na blogu Heimdalu připomíná význam lidského úsudku.
- Souhrn připraven
- Zdroj publikován
Tento text je redakční souhrn APPSEC. Datum zdroje označuje jeho publikování nebo aktualizaci; nejde o datum vydání našeho souhrnu.
Téma článku výrobce
Adam Pilton v rozhovoru se Samanthou North probírá zavádění AI do pracovních postupů. Příklad vyhledávání obchodních příležitostí odděluje přípravu podkladů od konečného rozhodnutí člověka. Hlavním tématem je výběr konkrétního procesu a zachování odpovědnosti. Článek není oznámením nové funkce Heimdalu ani důkazem konkrétní finanční návratnosti pro ostatní firmy.
Co z toho plyne pro váš tým — doporučení APPSEC
Při vlastním ověřování doporučujeme začít jedním interním formulářem nebo typem požadavku. Sepište, která pole může asistent pouze navrhnout a která smí po schválení skutečně změnit. Pro kontrolu vyberte několik anonymizovaných příkladů, včetně případu s neúplným zadáním. Ještě před spuštěním si určete, kdo může zkoušku zastavit.
Vyhodnocení postavte na stejných otázkách před pokusem i po něm: kolik práce zůstalo člověku, kolik návrhů musel opravit a co se stalo při chybném vstupu. Zvlášť si zapište výsledek, který vypadal přesvědčivě, ale nebyl použitelný. Takový záznam doporučujeme přiložit k rozhodnutí o dalším postupu.