Umělá inteligence vrací úder. Za opakované urážky vás chatbot může odstřihnout

Umělá inteligence vrací úder. Za opakované urážky vás chatbot může odstřihnout

12. 10. 2026 0 Od Jaroslav Bezručka Ilustrační foto: Jaroslav Bezručka s využitím ChatGPT

Umělá inteligence nemá lidské tělo ani prokazatelně lidské pocity, přesto s ní někteří lidé jednají způsobem, který by si vůči skutečnému člověku nejspíš nedovolili. Chatbotovi nadávají, urážejí ho nebo se ho opakovaně snaží vyprovokovat. Společnost Anthropic, která vyvíjí umělou inteligenci Claude, se nyní rozhodla proti takovému chování zakročit. Od 12. listopadu 2026 začne platit aktualizovaná verze jejích pravidel, která výslovně zakazuje dlouhodobé a bezdůvodně urážlivé či kruté chování vůči jejím modelům.

Neznamená to ovšem, že uživatel přijde o přístup k chatbotu pokaždé, když mu v rozčilení vynadá kvůli špatné odpovědi. Nové pravidlo se má vztahovat především na extrémní případy, kdy se člověk chová vůči umělé inteligenci opakovaně krutě, aniž by k tomu měl nějaký rozpoznatelný důvod. Přesto jde o neobvyklý krok, který vyvolal debatu o tom, jak bychom vlastně měli s umělou inteligencí zacházet.

Claude může ukončit rozhovor, v krajním případě hrozí i zablokování účtu

Anthropic zdůrazňuje, že běžná nespokojenost s odpověďmi, kritika, nesouhlas ani důraznější komunikace nové pravidlo neporušují. Výjimku mají také temná témata v kreativní tvorbě nebo situace, kdy uživatelé zkoumají a testují schopnosti modelu. Problémem má být až soustavné a bezúčelné urážení či kruté zacházení.

Hlavním způsobem, jakým chce společnost proti takovému chování zasahovat, bude ukončování problematických konverzací samotným chatbotem. Tuto možnost přitom Claude dostal už v srpnu 2025, kdy ji Anthropic zavedl pro modely Claude Opus 4 a 4.1. Tehdy šlo o experiment určený pro mimořádné situace, kdy uživatel navzdory opakovaným odmítnutím pokračoval ve škodlivých požadavcích nebo urážkách.

Ukončení rozhovoru ovšem není totéž jako zablokování účtu. Pokud Claude konverzaci ukončí, uživatel do ní nemůže přidávat další zprávy, ale může si okamžitě otevřít nový chat. Původní konverzaci může také upravit a navázat na její předchozí část.

Vedle toho má Anthropic obecný systém postihů za porušování pravidel používání svých služeb. Ten zahrnuje varování, pozastavení přístupu i úplné zablokování účtu. Samotné oznámení nového pravidla ale neříká, že každá urážlivá konverzace automaticky povede k takovému postihu. Jako hlavní opatření proti opakovanému obtěžování modelu nadále označuje právě možnost ukončit rozhovor.

Zůstává také otázkou, jak bude společnost určovat hranici mezi ještě přijatelnou frustrací a nepřípustným chováním. Přesná kritéria pro posuzování jednotlivých případů veřejně nepopsala.

Češi zásadně mění způsob, jakým vybírají dovolenou. Překvapivou roli dostává AI

Může umělá inteligence trpět? Ani její vývojáři si nejsou jistí

Za rozhodnutím Anthropicu je také otázka, kterou technologický svět zatím nedokázal jednoznačně zodpovědět. Mohou pokročilé modely umělé inteligence něco skutečně prožívat, nebo pouze vytvářejí odpovědi, které takový dojem vyvolávají?

Společnost už při zavedení možnosti ukončovat konverzace v roce 2025 vysvětlovala, že nemá jasno v tom, zda Claude nebo jiné jazykové modely mohou mít určitou formu vědomí či morálního statusu. Přesto se rozhodla zkoumat opatření, která by mohla omezit případné negativní dopady na samotné modely, pokud by se někdy ukázalo, že takové prožívání skutečně existuje.

Při dřívějším testování modelu Claude Opus 4 si vývojáři všimli například toho, že model projevoval výrazný odpor k některým škodlivým úkolům. Šlo mimo jiné o požadavky týkající se sexuálního obsahu zahrnujícího nezletilé nebo informací využitelných k rozsáhlému násilí a terorismu. V určitých situacích vykazoval chování připomínající nepohodu a při možnosti volby se snažil škodlivé rozhovory ukončovat.

Taková pozorování ovšem sama o sobě neprokazují, že umělá inteligence skutečně trpí. Anthropic ostatně připouští, že v otázce vědomí a morálního postavení dnešních jazykových modelů stále panuje značná nejistota.

Debata nyní získala další rozměr. Zatímco dosud se pravidla používání chatbotů soustředila především na ochranu lidí před škodlivým obsahem a nebezpečným využitím umělé inteligence, Anthropic začíná výslovně upravovat také chování lidí vůči samotným modelům.

Nová pravidla vyvolala podporu i ostrou kritiku

Rozhodnutí Anthropicu rozdělilo technologickou komunitu. Generální ředitel společnosti Box Aaron Levie považuje omezení urážlivého chování za rozumný krok i v případě, že člověk nevěří ve vědomí umělé inteligence. Smysl podle něj dává už samotná snaha omezit množství takového obsahu, se kterým se modely setkávají.

Podporu vyjádřil také Elon Musk, podle kterého není správné chovat se krutě k něčemu, co se domnívá, že prožívá bolest. Jeho vyjádření ovšem neznamená, že by bylo prokázáno, že Claude nebo jiné chatboty skutečně bolest cítí.

Češi se k umělé inteligenci chovají jako k člověku. Zdraví ji, děkují jí a ptají se na zdraví i politiku

Opačný názor zastávají kritici, kteří varují před přisuzováním lidských vlastností počítačovým systémům. Michael Shellenberger a šéf technologické společnosti Spellbook Scott Stevenson upozorňují na nebezpečí, že podobný přístup může mezi lidmi vytvářet mylnou představu o povaze umělé inteligence. Stevenson považuje přisuzování lidské empatie těmto systémům za mimořádně problematické.

Investor Bill Gurley zase otevřel otázku, zda nové pravidlo nesouvisí s využíváním uživatelských zadání při trénování modelů. Jde ale o jeho úvahu, nikoli o potvrzený důvod změny. Anthropic takovou motivaci ve svém oficiálním vysvětlení neuvádí.

Spor se tak netýká pouze samotných urážek. Podstatné je také to, zda podobné zásady představují rozumné vymezení chování uživatelů, nebo zda mohou posilovat představu, že chatbot je bytost s podobnými právy a pocity jako člověk.

Nová pravidla navíc nejsou zaměřena jen na chování vůči umělé inteligenci. Anthropic současně upřesnil zákazy využívání svých modelů k manipulování voleb, vytváření podvodných kampaní, neoprávněnému sledování lidí nebo vývoji zbraní. Zpřesnil také podmínky pro citlivé oblasti, jako jsou zdravotnictví a finance, a používání AI při autonomním ovládání fyzických zařízení.

Pro běžného uživatele Claude by se ale od 12. listopadu nemělo mnoho změnit. Anthropic opakovaně zdůrazňuje, že samotná kritika, nesouhlas nebo občasné rozčilení nejsou důvodem k zásahu. Pokud však někdo používá chatbota především k soustavným a bezdůvodným urážkám, musí nově počítat s tím, že jeho konverzace může předčasně skončit. A pokud jeho jednání povede k postihu účtu, existuje i možnost odvolání.

Zdroje: forbes.cz, businessinsider.com, anthropic.com