OPENAI
OpenAI začne v EU neviditelně značit texty z ChatGPT
OpenAI 5.října oznámila, že během několika týdnů přidá neviditelný vodoznak do textů z ChatGPT a Codexu pro uživatele v Evropské unii 1. Reaguje tím na AI Act, tedy evropské nařízení o umělé inteligenci, které po poskytovatelích chce, aby byl vygenerovaný text strojově rozpoznatelný 1. Zákazníci API, tedy programového rozhraní, přes které si firmy připojují model do vlastních programů, si vodoznak zapínají sami a ve výchozím stavu je vypnutý 1.
Vodoznak je statistický vzorec ve výběru slov a vidí ho jen detektor OpenAI, který firma zatím dává jen schváleným výzkumníkům a odborným organizacím 1. Důvod je spolehlivost: když nahradíte 10 % slov synonymy, záchyt klesne z 92 % na 66 % 1. Při 25 % vyměněných slov je to 17 % 1.
Vodoznak dostanekaždý český uživatel ChatGPT na všech typech předplatného, protože OpenAI ho zapíná pro celou EU a nikde jinde 1. Samotný vodoznak podle OpenAI neříká, kdo text napsal, kolik ho upravil člověk, ani jestli je pravdivý 1. Zaměstnavatel ani škola si ho sama neověří, protože detektor veřejný není 1.
Co s tím
Texty, které píšete v ChatGPT pro klienty, počítejte od teď jako označené. Pokud to nechcete, pracujte s modelem přes API nebo přes firemní nástroj, kde o vodoznaku rozhodujete sami. A detektory třetích stran na kontrolu uchazečů nebo studentů neberte vážně, OpenAI svůj vlastní kvůli riziku chyb zatím ven nepouští.