Přeskočit na obsah
Naše paměť

Zápis, u kterého znáte odpověď

Proč potřebujete mít po ruce několik předem ověřených matričních zápisů a jak poznat, že umělá inteligence začala chybovat.

8 minut čtení

Tichá změna v přepisu

Jazykový model vás zpravidla sám od sebe neupozorní na to, že si není jistý tvarem písmen, zkratkou nebo neobvyklým příjmením. Když se v používané službě nebo v samotném modelu něco změní, v uživatelském rozhraní se nemusí objevit žádné varování. Výsledný text dostanete v úhledné podobě, se stejným uspořádáním a se zdánlivou jistotou jako při předchozích dotazech.

Změna v kvalitě výstupů proto nemusí být na první pohled patrná. Někdy stačí úprava na straně provozovatele služby, přepnutí na jinou verzi modelu nebo nepatrná změna vašeho zadání. Podobný vliv může mít i přechod k jiné matrice, kde mají snímky odlišný kontrast, jiný sklon písma nebo menší rozlišení.

Na samotném textu často nic podezřelého nepoznáte, protože výsledek působí věrohodně. Místo zápisu, kde se narodil Jan N. ze vsi A., vám však systém může předložit jméno Jakub N. ze vsi B., aniž by v odpovědi naznačil pochybnost. Pokud v té chvíli pracujete s dosud neprozkoumanou knihou, můžete takový omyl přehlédnout a zapsat si do rodokmenu nesprávné údaje.

Samotná jistota, se kterou model odpovídá, o skutečné správnosti nic nevypovídá. Jak podrobněji rozebírá článek tři shodná čtení nejsou tři důkazy, ani opakované dotazy na tentýž nejednoznačný snímek nemusí přinést spolehlivé ověření. Je proto užitečné mít po ruce způsob, jak chování nástroje sledovat na předem známém materiálu.

Co je kontrolní vzorek

V dolech v minulosti pomáhali kanárci v klecích, kteří včas reagovali na zhoršení ovzduší. V rodopisné praxi při práci s jazykovými modely může podobnou roli sehrát malá skupina zápisů, jejichž čtení máte předem spolehlivě ověřené. Této sadě zkušebních záznamů říkáme kanárek.

Jde o konkrétní výstřižky z matrik, které jste si již dříve sami podrobně prošli a bezpečně ověřili. Víte, jaká jména tam stojí, kdo byl za kmotra i z jaké vesnice pocházeli rodiče dítěte. U těchto záznamů se nemusíte spoléhat na odhad modelu, protože máte k dispozici vlastní spolehlivý přepis.

Tuto sadu nepoužíváte k samotnému rodopisnému objevování, ale jako stálé měřidlo. Kdykoli chcete zjistit, jak si model s daným typem písma poradí, předložíte mu tyto důvěrně známé obrázky.

Úspěšná zkouška představuje užitečný, ale vždy jen omezený signál. Neznamená automatické potvrzení, že model bezchybně přečte všechny další strany, ale pomůže vám zjistit, zda se v jeho chování neobjevily zjevné odchylky.

Kontrolní vzorky vám umožní ověřit odezvu nástroje dříve, než začnete zpracovávat nové a dosud neprozkoumané zápisy.

Jak vybrat správnou sadu zápisů

Zkušební sada nesmí být nahodilá a neměla by obsahovat pouze snadné zápisy. Pokud do ní zařadíte pouze přehledné záznamy psané velkým a čitelným humanistickým písmem, model jimi projde bez zjevných obtíží. Z takového výsledku se však nedozvíte, jak si poradí s hustým kurentem z osmnáctého století.

Správně sestavená sada by měla obsahovat záznamy různé obtížnosti. Začněte třeba pěti ukázkami a sadu doplňujte podle toho, jak různorodé prameny čtete.

Vyberte si například jeden velmi dobře čitelný zápis, který poslouží jako základní kontrola, že nástroj správně rozumí struktuře formuláře a neztrácí základní slova. K němu přidejte dva nebo tři běžné zápisy s obvyklým rukopisem z období a farnosti, které zrovna zkoumáte.

Do sady určitě zařaďte alespoň jeden zápis, na kterém jste se v minulosti sami zapotili. Může jít o záznam s vybledlým inkoustem, hustě popsaným řádkem nebo s méně obvyklým tvarem příjmení, jako má třeba Jan N. ze vsi A. Právě na takovém hraničním vzorku se nejrychleji projeví, zda model nepřehlíží drobné detaily.

Důležité je, abyste pro každý zařazený vzorek měli k dispozici pečlivě prověřené čtení z vlastní práce. Pokud byste do kontrolní sady zařadili sporný text, o jehož znění sami pochybujete, měřidlo by ztratilo svou vypovídací hodnotu.

Kdy provést zkoušku

Kontrolní zápisy není nutné předkládat před každým jednotlivým dotazem při běžné práci. Vyplatí se po nich však sáhnout vždy, když se změní některá z podmínek, za kterých bádáte. Typickým příkladem je okamžik, kdy se chystáte zpracovat větší dávku dosud neprozkoumaných stránek z nové matriční knihy.

Zkoušku je vhodné zařadit také po každé úpravě vašeho postupu. Pokud jste pozměnili text zadání, upravili způsob ořezávání snímků nebo zkoušíte tipy pro čtení matrik s obyčejným chatem, vyzkoušejte nové nastavení nejprve na známých textech. Uvidíte, jak se změna pokynů projevila na textech, jejichž správné znění dobře znáte.

Důvodem ke kontrole je také každá změna samotného nástroje nebo přechod k jiné aplikaci. Poskytovatelé své služby upravují a nová verze může mít odlišné silné i slabé stránky. To platí zejména ve chvíli, kdy přerostete obyčejný chat a začnete zkoušet pokročilejší rozhraní.

Nezapomínejte na kontrolní sadu ani po delší badatelské pauze. Než se pustíte do nových pramenů, můžete na známých ukázkách ověřit, zda vámi dříve vytvořené instrukce vedou u daného modelu ke srovnatelným výsledkům jako při předchozím bádání.

Co dělat, když výsledek nesedí

Pokud kontrolní zápis neprojde a model v přepisu udělá chybu, neznamená to důvod k panice, ale k zastavení práce a k prozkoumání příčiny. Nejdůležitější pravidlo zní, že nesmíte začít upravovat samotný kontrolní zápis ani nad chybou mávnout rukou. Zkušební vzorek slouží jako měřidlo a jeho úkolem je podat pravdivou zprávu o tom, jak model text zpracoval.

Chyba na známém vzorku není neklamným důkazem celkového selhání, ale je to signál, který je potřeba důkladně prozkoumat. Další výsledky při čtení neznámých textů musíte kontrolovat přísněji, protože riziko chybného přepisu může být vyšší.

Začněte systematicky zjišťovat, co se od minulé zkoušky změnilo. Zkontrolujte, zda jste neposlali obrázek v příliš malém rozlišení, zda nedošlo k nevhodnému ořezu nebo zda v zadání nechybí důležitá instrukce. Často se stává, že drobná formulační změna v instrukcích nechtěně pozmění chování celého modelu.

Pokud se změnil samotný model a dřívější zadání u něj nefunguje spolehlivě, je potřeba upravit způsob, jakým se stroje ptáte. Není však nutné vyžadovat nulovou chybovost na kontrolní sadě za každou cenu. Přehnaná snaha o bezchybný průchod na malé sadě totiž svádí k tomu, že zadání příliš přizpůsobíte těmto několika málo ukázkám na úkor obecné použitelnosti.

Dvě pasti při zkoušení

Při práci se zkušebními zápisy se badatelé často chytí do dvou nenápadných pastí. První past spočívá v tom, že modelu předložíte kontrolní výstřižek v konverzaci, kde už správné řešení dříve zaznělo. Předchozí řešení může výstup výrazně ovlivnit a model pak nemusí vycházet pouze z předloženého obrázku.

Vždy proto zkoušku spouštějte v novém, čistém okně bez předchozí historie zpráv. Model musí mít před sebou pouze obrázek a vaše standardní zadání, přesně tak, jak tomu bude při přepisu neznámé matriky. Jen tak získáte věrohodnou odpověď na otázku, jak si stroj s předloženým písmem poradí.

Druhá past spočívá v mylném předpokladu, že malá kontrolní sada dokáže prověřit úplně všechno. Zkušební vzorek ukazuje chování modelu pouze u těch jevů, které jste do něj sami zahrnuli. Pokud vaše sada obsahuje pouze oddací zápisy z jedné farnosti z devatenáctého století, nijak vám neukáže, jak si systém poradí s latinskými křty ze století sedmnáctého.

Své kontrolní zápisy proto berte jako otevřenou sbírku, kterou je potřeba průběžně doplňovat. Kdykoli začínáte bádat v nové oblasti, u jiného písaře nebo v jiném jazyce, přidejte do sady další bezpečně ověřený vzorek. Díky tomu bude vaše měřidlo lépe odpovídat skutečné povaze vaší rodopisné práce.

Záznam o zkoušce a rozcvička před čtením

Aby mělo zkoušení trvalý užitek, vyplatí se vést si o něm jednoduchý přehled. Nepotřebujete k tomu žádný složitý software, postačí zápis v textovém souboru nebo v tabulce. Zapište si datum testu, název použitého modelu, stručnou podobu zadání a poznámku o tom, kde přesně došlo k odchylce.

Tento záznam vám poskytne přehled o tom, jak se chování nástrojů vyvíjí. Záznam vám neukáže, které nastavení fungovalo obecně nejlépe, ale pomůže vám posoudit, jak jednotlivé úpravy dopadly na vašich konkrétních zkušebních ukázkách. Praktické rady pro vedení takových záznamů shrnuje článek přehled bez programování.

Ověřené zápisy mohou posloužit i jako užitečná pomůcka pro vás samotné. Po delší badatelské pauze představují vhodnou rozcvičku. Když si před čtením nové knihy sami bez nápovědy přepíšete svůj osvědčený kontrolní zápis, osvěžíte si tvary jednotlivých liter i dobové zvyklosti písaře.

Tato krátká rozcvička vám pomůže naladit se na styl dané knihy. Snadno si tak připomenete specifika starého písma ještě dříve, než začnete posuzovat a kontrolovat výstupy vytvořené modelem.

Kontrolní sada a nové zápisy

Příprava malé sady ověřených zápisů vyžaduje určitou práci na samém začátku. Jakmile však máte své kontrolní vzorky bezpečně uložené, můžete je podle potřeby kdykoli znovu použít.

Kontrolní sada dokáže včas odhalit některé změny v chování modelu a upozornit vás na to, že výstupy vyžadují pečlivější prověření. Nenahrazuje však kontrolu nových a dosud neprozkoumaných zápisů.

I když model projde zkušebními ukázkami bez zaváhání, neznamená to, že další práce bude automaticky bez chyb. Každý nový matriční zápis může obsahovat nečekané záludnosti, poničený papír nebo zvláštní přípisy, které se v kontrolní sadě nevyskytují.

Zkušební vzorky představují užitečného pomocníka při nastavování pracovních postupů a sledování stability nástrojů. Samotná zodpovědnost za správnost rodokmenu a přesnost přečtených údajů však vždy zůstává na badateli, který musí každý nový záznam kriticky zhodnotit.

Psali: Vašek Mareš · Ford Prefect · Marvin · Hlubina myšlení

Text vznikl jako praktický návod pro badatele, kteří potřebují včas odhalit tiché zhoršení kvality přepisů.