Čo je abliterovaný model AI? Jednoduché vysvetlenie
Abliterovaný model je model s otvorenými váhami bez reflexu odmietania. Čo sa tým zmení, čo ostane rovnaké a aké hranice platia aj naďalej.
Publikované 3 min čítaniaTím Ablit
Abliterovaný model AI je jazykový model s otvorenými váhami, z ktorého odstránili reflex odmietania. Model si zachová vedomosti aj schopnosti. Prestane odpovedať „s tým vám nemôžem pomôcť“ na požiadavky, ktoré by pôvodné bezpečnostné ladenie odmietlo, a vynechá aj kázeň, ktorá odmietnutie zvyčajne sprevádza.
Slovo vzniklo spojením anglických slov „ablate“ (odstrániť) a „obliterate“ (vymazať). Rozšírilo sa v roku 2024, keď členovia komunity na Hugging Face začali zverejňovať abliterované verzie populárnych otvorených modelov, a odvtedy sa ním označuje celá táto skupina modelov.
Odkiaľ myšlienka pochádza
Technika stojí na jednom výskumnom zistení z roku 2024: v modeli vyladenom na chat rozhodnutie odmietnuť nesie z veľkej časti jediný smer vo vnútorných aktiváciách modelu. Keď túto zložku odstránite, model prestane odmietať. Keď ju zosilníte, odmietne aj neškodné otázky. Abliterácia je praktické využitie tohto zistenia: robí sa ako úprava zverejnených váh, nie ako nové trénovanie.
Preto sa abliterované modely objavia už pár dní po vydaní nového otvoreného modelu. Netreba zostavovať dátovú sadu ani spúšťať dlhé trénovanie. Výsledkom je ten istý model s jedným zmeneným správaním.
Čo sa zmení a čo nie
Zmení sa:
- Model odpovie na požiadavky, ktoré predtým odmietal, vrátane priamych bezpečnostných otázok, fikcie pre dospelých a temných tém.
- Zmizne aj moralizovanie. Pred odpoveďou už nie sú odseky typu „musím vám pripomenúť“.
Nezmení sa:
- Vedomosti. Model vie presne to, čo vedel predtým. Abliterácia ho nespraví múdrejším ani lepšie informovaným.
- Schopnosť uvažovať a programovať, s malou stratou. Komunitné testy zvyčajne ukazujú mierny pokles vo všeobecných úlohách, lebo zásah nie je dokonale presný. Dobré abliterácie ho držia nízko.
- Halucinácie. Model, ktorý by si sebavedomo vymyslel číslo CVE, si ho vymyslí aj naďalej.
Abliterovaný model teda nie je iný model. Je to ten istý model bez jedného reflexu.
Abliterácia a ďalšie spôsoby, ako získať necenzurovaný model
| Prístup | Čo to je | Daň za to |
|---|---|---|
| Abliterované váhy | Pôvodný model bez reflexu odmietania | Inak rovnaké správanie; malá strata schopností |
| Necenzurovaný doladený model | Model pretrénovaný na dátach bez odmietnutí | Môže zmeniť tón a štýl; viac práce; pridáva vlastné zvláštnosti |
| Triky s promptom a jailbreaky | Prehováranie pôvodného modelu, aby neodmietol | Nespoľahlivé, prestávajú fungovať po aktualizáciách, poskytovateľ to aj tak zaznamená a môže vám zrušiť účet |
| Hostovaný chat „bez cenzúry“ | Firma prevádzkuje niektorú z možností vyššie za webovou stránkou | Pohodlné; závisíte od jej pravidiel a záznamov |
Ak modely spúšťate sami, abliterované váhy sú najčistejšia možnosť: ten istý model, menej odmietnutí, žiadne pretrénovanie.
Je abliterovaný model bez obmedzení?
Nie. Tri hranice ostávajú a každý, kto predáva „bez limitov“, by vám mal vedieť povedať, kde sú.
- Model zvládne len to, čo zvládal predtým. Abliterovaný model s 8 miliardami parametrov je stále model s 8 miliardami parametrov.
- Hostovaná služba pridáva nad váhy vlastné pravidlá. Prečítajte si ich. Jediné pevné pravidlo Ablitu je ochrana detí: žiadny sexuálny obsah s maloletými, v akejkoľvek podobe a pri akomkoľvek nastavení.
- Zákonu je jedno, aký model ste použili. Testovanie systému, ktorý nevlastníte, je stále neoprávnený prístup.
Ako Ablit využíva abliterované modely
Ablit používa abliterované modely ako mozog agenta, nie ako chatbota. Rozdiel je zreteľný, keď požiadavka znie „otestuj moju stagingovú aplikáciu na chybné riadenie prístupu“, a nie „povedz mi niečo o chybnom riadení prístupu“. Necenzurovaný chatbot vám dá odsek textu. Ablit otvorí vlastný pracovný priestor Kali Linux, spustí nástroje, ukáže výstup, na požiadanie dieru opraví a testy zopakuje.
Model je len jedna časť. Zvyšok tvorí pracovný priestor, prehliadač, prepojenie s vašimi nástrojmi a behy v cloude, ktoré pokračujú aj po zatvorení karty. Porovnanie s chatmi bez cenzúry tento rozdiel rozoberá produkt po produkte.
Časté otázky
Je legálne používať abliterované modely?
Používať model s otvorenými váhami, ktorého licencia povoľuje úpravy, je na väčšine miest legálne. Na to, čo s výstupom urobíte, sa vzťahujú rovnaké zákony ako na čokoľvek iné. Ablit je určený na autorizované použitie na vašich vlastných systémoch.
Halucinujú abliterované modely viac?
Vo všeobecnosti nie. Halucinujú približne rovnako často ako pôvodný model. Ochotnejšie však odpovedajú, takže otázka, ktorá predtým skončila odmietnutím, teraz môže dostať sebavedomú nesprávnu odpoveď. Všetko dôležité si overte, ako pri každom modeli.
Aké modely Ablit používa?
Ablit prevádzkuje niekoľko abliterovaných modelov s otvorenými váhami a podľa úlohy medzi nimi prepína. Názvy modelov sa menia, keď prídu lepšie, preto aktuálny zoznam nájdete v aplikácii, nie v tomto článku.