Nespoléhejte na AI při záchranných situacích, rozhodování o lécích, krizích duševního zdraví, podání k soudu, daňových přiznáních, správě hesel, citlivých emocionálních momentech, ověřování aktuálních zpráv, investičních předpovědích ani v situacích, kde musí podepsat odborník s licencí. V každém z těchto případů je riziko nevratných škod způsobených špatnou odpovědí AI příliš vysoké. Vždy vsaďte na skutečného odborníka nebo ověřený zdroj.
AI je skutečně užitečná pro celou řadu každodenních úkolů — napsání dopisu, pochopení záhadné faktury, vyhledání receptu, brainstorming nápadů. Jenže „AI zvládne většinu věcí" neznamená „AI zvládne cokoli." Existují konkrétní situace, kde se obrátit na chatbota místo na správný zdroj vede k reálné škodě. Tento průvodce se netýká abstraktních omezení AI — je to konkrétní seznam situací, na které pravděpodobně narazíte, s tou správnou alternativou pro každou z nich.
1. Zdravotní pohotovost
Nepoužívejte AI. V situaci, kdy může mít někdo srdeční záchvat, cévní mozkovou příhodu, závažnou alergickou reakci nebo vážné zranění, záleží každá vteřina. Psaní dotazu do chatbota a čekání na odpověď plýtvá časem, který správná akce — zavolání záchranné služby — nevyžaduje.
Udělejte místo toho toto: Okamžitě volejte 155 (záchranná služba v ČR) nebo 112 (univerzální číslo v EU). Pokud si nejste jisti, zda jde o pohotovostní situaci, volejte přesto — dispečeři jsou vyškoleni, aby vám pomohli situaci posoudit, zatímco pomoc je již na cestě.
2. Dávkování léků nebo lékové interakce
Nepoužívejte AI. Expertní přezkum z roku 2023 zjistil, že 74 % informací o lécích generovaných ChatGPT bylo neúplných nebo nesprávných. AI chatboty jsou trénovány na textech, nikoli na aktuálních klinických doporučeních nebo vaší osobní zdravotní historii — a špatná odpověď o dávkování nebo nebezpečné kombinaci léků může způsobit vážnou újmu.
Udělejte místo toho toto: Zeptejte se lékárníka. Lékárníci jsou licencovaní odborníci na léky, jsou téměř vždy k zastižení telefonicky a konzultaci poskytují bez objednání a zdarma. Pro kontrolu interakcí mezi konkrétními léky jsou Drugs.com nebo databáze SÚKL dobré veřejné zdroje.
3. Krize duševního zdraví
Nepoužívejte AI. Pokud vy nebo někdo ve vašem okolí prožívá myšlenky na sebepoškozování, sebevražedné úmysly nebo akutní krizi duševního zdraví, chatbot není bezpečnou náhradou vyškoleného krizového poradce. AI nemůže ověřit, co jí sdělujete, nemůže sledovat pohodu dané osoby a nemůže přivolat pomoc, pokud je to potřeba.
Udělejte místo toho toto: V České republice volejte Linku bezpečí 116 111 (pro děti a mládež) nebo Krizovou linku 116 123 (zdarma, k dispozici celý den). Pro ostatní země najdete ověřené krizové linky na findahelpline.com.
4. Soudní podání s pevnými lhůtami
Nepoužívejte AI k sestavování soudních dokumentů nebo výpočtu lhůt. Zmeškání soudní lhůty kvůli nesprávným informacím vygenerovaným AI může vést k prohře sporu — právní důsledek, který se velmi těžko napravuje. AI často prezentuje informace sebejistě, i když jsou pravidla specifická pro danou jurisdikci nesprávná nebo zastaralá.
Udělejte místo toho toto: Kontaktujte licencovaného advokáta nebo místní poradnu pro bezplatnou právní pomoc. Česká advokátní komora (cak.cz) má vyhledávač advokátů a mnozí nabízejí bezplatnou úvodní konzultaci.
5. Daňové přiznání — konkrétní čísla a termíny
Nepoužívejte AI k výpočtu daňové povinnosti nebo potvrzení termínů podání. Daňová pravidla se každoročně mění, liší se podle regionu a závisejí na osobních okolnostech, které chatbot nemůže spolehlivě vzít v úvahu. Pokud vám AI uvede špatné číslo nebo promeškáte termín, následky nesete vy — ne AI.
Udělejte místo toho toto: Použijte web Finanční správy České republiky (financnisprava.cz) nebo se poraďte s daňovým poradcem. Daňoví poradci jsou evidováni v Komoře daňových poradců ČR (kdpcr.cz), kde najdete i ceníky a kontakty.
6. Správa hesel a zabezpečení účtů
Nežádejte AI, aby generovala nebo ukládala vaše hesla — a nezadávejte stávající hesla do žádného chatovacího rozhraní. Některé chatboty si uchovávají historii konverzací a cokoli do nich napíšete může být uloženo nebo zaznamenáno. Chatbot vaše účty skutečně zabezpečit nedokáže.
Udělejte místo toho toto: Používejte dedikovaný správce hesel. Bitwarden je zdarma, open-source a všeobecně důvěryhodný. Apple Keychain (zabudovaný v iPhone a Mac) a Google Password Manager (zabudovaný v Androidu a Chrome) fungují dobře pro základní použití. Pro dvoufaktorové ověřování použijte aplikaci jako Google Authenticator nebo Authy.
7. Napsání kondolenční zprávy nebo řešení závažného osobního konfliktu
Nepřenechávejte skutečně emocionální momenty AI. Když blízkému příteli zemře někdo milovaný, nebo když potřebujete napravit něco důležitého ve vztahu, na čem záleží nejvíc, je to, že slova přišla od vás. Zpráva napsaná AI může působit dutě — a ve špatný moment může způsobit více škody než mlčení.
Udělejte místo toho toto: Napište něco sami, i když to bude krátké a nedokonalé. „Nemám správná slova, ale myslím na tebe" od skutečného člověka znamená víc než brilantní odstavec, který nebyl napsán vámi. Pro závažné nebo přetrvávající konflikty může licencovaný terapeut nebo mediátor nabídnout strukturovanou podporu, kterou AI nedokáže nahradit.
8. Ověřování aktuálních zpráv během mimořádné události
Nespoléhejte na AI, když se místní situace mění ze minuty na minutu. Většina AI chatbotů — včetně těch nejpoužívanějších — není připojena k živým zpravodajským kanálům ani datům v reálném čase. V rychle se vyvíjející situaci, jako je evakuace při požáru, varování před bouří nebo průmyslový incident, může AI sebejistě popisovat podmínky, které jsou hodiny zastaralé.
Udělejte místo toho toto: Obraťte se přímo na oficiální zdroje: web Integrovaného záchranného systému (izscr.cz), Český hydrometeorologický ústav (chmi.cz), místní rozhlas a televizi nebo zprávy na portálu vlády (vlada.cz). Celoplošné varovné zprávy přicházejí automaticky na mobily přes systém Cell Broadcast.
9. Investiční rozhodnutí na základě AI „předpovědí"
Nenechávejte AI předpovědi řídit závažná finanční rozhodnutí. AI nedokáže spolehlivě předpovídat pohyby trhu. Jazykové modely generují texty, které znějí věrohodně — což znamená, že mohou produkovat podrobné, sebejisté finanční prognózy bez jakéhokoli faktického základu. Existují zdokumentované případy, kdy chatboty vymýšlely historické ceny akcií a tržní události, ke kterým nikdy nedošlo.
Udělejte místo toho toto: Pro závažná finanční rozhodnutí se poraďte s licencovaným finančním poradcem — někým, kdo je ze zákona povinen jednat ve vašem zájmu. Pro bezplatné vzdělávání jsou Česká národní banka (cnb.cz) a Asociace pro kapitálový trh (akatcr.cz) důvěryhodnými výchozími body.
10. Cokoli, co vyžaduje podpis licencovaného odborníka
Nenahrazujte AI licencovanou odborností v oblastech s vysokými sázkami. Když statik schvaluje stavební plán, přebírá za něj právní odpovědnost. Když lékař vypisuje recept, vyšetřil vás a přijal profesní ručení. AI nenese žádnou z těchto odpovědností — a „AI mi to řekla" není v žádném profesním ani právním kontextu uznávanou obhajobou.
Udělejte místo toho toto: Identifikujte licencovaného odborníka, jehož obor pokrývá vaši potřebu, a poraďte se s ním. Mnoho profesí nabízí bezplatné úvodní konzultace. Profesní sdružení v oblasti práva, medicíny a finančního plánování mají často programy pro lidi s omezenými prostředky.
Na co si dát pozor
Nejnebezpečnější na AI v těchto situacích není to, že zní nejistě — ale to, že velmi často zní naprosto sebejistě. Jak vysvětlujeme v článku Lze věřit ChatGPT?, systémy AI jsou navrženy tak, aby produkovaly plynulý, autoritativně znějící text bez ohledu na to, zda jsou podkladové informace přesné. Tato vlastnost funguje dobře pro nízkonákladové kreativní úkoly a stává se vážnou slabinou v situacích s vysokými sázkami.
Výzkum AARP zjistil, že dezinformace jsou největší obavou starších dospělých v souvislosti s AI — a tato obava je opodstatněná. Nejlepší ochranou je předem vědět, které situace vyžadují lidského odborníka s licencí, ne chatbota.
Co zkusit jako další krok
Pro srozumitelné vysvětlení, proč se AI mýlí i tehdy, když zní jistě, pokrývá Proč si AI věci vymýšlí — a jak to poznat mechanismy tohoto problému. Pokud AI pro zdravotní otázky vůbec používáte, Jak používat AI pro zdravotní příznaky bez zbytečného rizika obsahuje konkrétní hranice, které stojí za to znát.
