Co je abliterovaný model AI? Jednoduché vysvětlení

Abliterovaný model AI je jazykový model s otevřenými vahami, ze kterého odstranili reflex odmítání. Model si zachová znalosti i schopnosti. Přestane odpovídat „s tím vám nemůžu pomoct“ na požadavky, které by původní bezpečnostní ladění odmítlo, a vynechá i kázání, které odmítnutí obvykle doprovází.

Slovo vzniklo spojením anglických slov „ablate“ (odstranit) a „obliterate“ (vymazat). Rozšířilo se v roce 2024, kdy členové komunity na Hugging Face začali zveřejňovat abliterované verze populárních otevřených modelů, a od té doby se jím označuje celá tato skupina modelů.

Odkud myšlenka pochází

Technika stojí na jednom výzkumném zjištění z roku 2024: v modelu vyladěném na chat nese rozhodnutí odmítnout z velké části jediný směr ve vnitřních aktivacích modelu. Když tuto složku odstraníte, model přestane odmítat. Když ji zesílíte, odmítne i neškodné otázky. Abliterace je praktické využití tohoto zjištění: dělá se jako úprava zveřejněných vah, ne jako nové trénování.

Proto se abliterované modely objeví už pár dní po vydání nového otevřeného modelu. Není potřeba sestavovat datovou sadu ani spouštět dlouhé trénování. Výsledkem je tentýž model s jedním změněným chováním.

Co se změní a co ne

Změní se:

• Model odpoví na požadavky, které dřív odmítal, včetně přímých bezpečnostních otázek, fikce pro dospělé a temných témat.
• Zmizí i moralizování. Před odpovědí už nejsou odstavce typu „musím vám připomenout“.

Nezmění se:

• Znalosti. Model ví přesně to, co věděl předtím. Abliterace ho neudělá chytřejším ani lépe informovaným.
• Schopnost uvažovat a programovat, s malou ztrátou. Komunitní testy obvykle ukazují mírný pokles v obecných úlohách, protože zásah není dokonale přesný. Dobré abliterace ho drží nízko.
• Halucinace. Model, který by si sebevědomě vymyslel číslo CVE, si ho vymyslí i nadále.

Abliterovaný model tedy není jiný model. Je to tentýž model bez jednoho reflexu.

Abliterace a další způsoby, jak získat necenzurovaný model

Pokud modely spouštíte sami, abliterované váhy jsou nejčistší možnost: tentýž model, méně odmítnutí, žádné přetrénování.

Je abliterovaný model bez omezení?

Ne. Tři hranice zůstávají a každý, kdo prodává „bez limitů“, by vám měl umět říct, kde jsou.

• Model zvládne jen to, co zvládal předtím. Abliterovaný model s 8 miliardami parametrů je pořád model s 8 miliardami parametrů.
• Hostovaná služba přidává nad váhy vlastní pravidla. Přečtěte si je. Jediné pevné pravidlo Ablitu je ochrana dětí: žádný sexuální obsah s nezletilými, v jakékoli podobě a při jakémkoli nastavení.
• Zákonu je jedno, jaký model jste použili. Testování systému, který nevlastníte, je pořád neoprávněný přístup.

Jak Ablit využívá abliterované modely

Ablit používá abliterované modely jako mozek agenta, ne jako chatbota. Rozdíl je zřetelný, když požadavek zní „otestuj moji stagingovou aplikaci na chybné řízení přístupu“, a ne „řekni mi něco o chybném řízení přístupu“. Necenzurovaný chatbot vám dá odstavec textu. Ablit otevře vlastní pracovní prostor Kali Linux, spustí nástroje, ukáže výstup, na požádání díru opraví a testy zopakuje.

Model je jen jedna část. Zbytek tvoří pracovní prostor, prohlížeč, propojení s vašimi nástroji a běhy v cloudu, které pokračují i po zavření karty. Srovnání s chaty bez cenzury tento rozdíl rozebírá produkt po produktu.

Časté otázky

Je legální používat abliterované modely?

Používat model s otevřenými vahami, jehož licence povoluje úpravy, je na většině míst legální. Na to, co s výstupem uděláte, se vztahují stejné zákony jako na cokoli jiného. Ablit je určený k autorizovanému použití na vašich vlastních systémech.

Halucinují abliterované modely víc?

Obecně ne. Halucinují přibližně stejně často jako původní model. Ochotněji však odpovídají, takže otázka, která dřív skončila odmítnutím, teď může dostat sebevědomou špatnou odpověď. Vše důležité si ověřte, jako u každého modelu.

Jaké modely Ablit používá?

Ablit provozuje několik abliterovaných modelů s otevřenými vahami a podle úlohy mezi nimi přepíná. Názvy modelů se mění, když přijdou lepší, proto aktuální seznam najdete v aplikaci, ne v tomto článku.