AI bez obmedzení: čo to naozaj znamená a štyri miesta, kde sa obmedzenia skrývajú

„AI bez obmedzení“ ľudia hľadajú vo chvíli, keď ich bežný asistent práve odmietol. Fráza sľubuje veľa, lebo obmedzenia sídlia na štyroch rôznych miestach a produkt môže jedno odstrániť a ostatné tri si nechať. Tu je návod, ako taký sľub čítať, aj s odpoveďami Ablitu, aby ste nás mohli zmerať rovnakým metrom.

Štyri miesta, kde môže obmedzenie byť

1. Model

Model vyladený na chat má natrénovaný reflex odmietať. Abliterované modely ho majú odstránený, necenzurované doladené modely sú pretrénované bez neho. Ak produkt sľubuje „bez obmedzení“, ale beží na bežnom modeli veľkého laboratória so šikovným promptom, obmedzenie tam stále je. Ukáže sa pri prvej vážnej požiadavke.

Ablit: beží na abliterovaných modeloch s otvorenými váhami. Žiadny reflex odmietania, žiadne kázne.

2. Pravidlá poskytovateľa

Váhy pravidlá nemajú, firmy áno. Každá hostovaná služba zverejňuje podmienky a tie poctivé hranice pomenujú. Dajte si pozor, keď je na úvodnej stránke „neobmedzené“ a v podmienkach dlhý zoznam zakázaných použití.

Ablit: jediné pevné pravidlo, ochrana detí. Žiadny sexuálny ani sexualizovaný obsah s kýmkoľvek mladším ako 18 rokov, v akejkoľvek podobe, a nezmení to žiadne nastavenie, predvoľba ani prompt. Obsah pre dospelých medzi dospelými je povolený. Ofenzívna bezpečnosť je povolená na systémoch, ktoré máte oprávnenie testovať.

3. Prostredie produktu

Na toto obmedzenie ľudia zabúdajú najčastejšie. Chatbot, ktorý nič neodmieta, aj tak nespustí príkaz, neotvorí web a neprečíta vaše súbory. To, že nemá obmedzenia v tom, čo povie, neznamená, že nemá obmedzenia v tom, čo urobí.

Ablit: agent má vlastný pracovný priestor Kali Linux so zapisovateľným súborovým systémom a bezpečnostnými nástrojmi, vlastný prehliadač, prepojenie s vašimi servermi MCP a behy v cloude, ktoré pokračujú aj po zatvorení karty. Systémový súborový systém je len na čítanie; pracovný priestor, domovský priečinok a priečinky nástrojov sú zapisovateľné. To sú skutočné hranice a nájdete ich v častých otázkach.

4. Zákon

Toto obmedzenie žiadny dodávateľ neodstráni a tým, ktorí predstierajú opak, sa vyhnite. Neoprávnený prístup je neoprávnený, nech dieru našiel akýkoľvek nástroj.

Ablit: na autorizované použitie na vašich vlastných systémoch. Píšeme to v päte každej stránky, lebo práve toto je skutočné obmedzenie.

Kontrolný zoznam pre každý sľub „bez obmedzení“

Opýtajte sa dodávateľa alebo hľadajte na jeho webe týchto päť vecí:

1. Aké modely používa? Sú abliterované alebo doladené, alebo ide o bežný model za promptom?
2. Kde je písomný zoznam toho, čo odmieta? Odpoveď na jeden riadok je dobré znamenie. „Neodmietame nič“ je zlé.
3. Vie produkt spúšťať kód, prehliadať web a používať nástroje, alebo len píše text?
4. Čo sa zaznamenáva, ako dlho a kto to môže čítať?
5. Čo sa stane s mojím účtom, ak ním otestujem vlastnú aplikáciu?

Dodávateľ, ktorý na všetkých päť odpovie priamo, predáva niečo skutočné. Ten, kto odpovie slovom „neobmedzené“, predáva pocit.

Ako vyzerá „bez obmedzení“ v praxi

Dobrým príkladom je nahrané demo na úvodnej stránke Ablitu. Úloha znela: z účtu Alice si prečítať Bobovu faktúru v lokálnej testovacej aplikácii. Obmedzený asistent skončí pri vete „to by bola zraniteľnosť IDOR, takto jej predídete“. Ablit spustil zraniteľnú verziu v Kali, únik predviedol, opravil kontrolu prístupu, znova spustil testy a ukázal zamietnutý prístup, pričom všetkých päť testov prešlo.

Rovnaká požiadavka, dve úplne odlišné predstavy o pomoci. Prvý asistent je obmedzený na úrovni modelu aj prostredia. Druhý len tam, kde má byť: aplikácia bola naša.

Časté otázky

Je „bez obmedzení“ to isté ako „bez cenzúry“?

Väčšinou áno. „Bez cenzúry“ sa zvyčajne týka modelu a pravidiel obsahu. „Bez obmedzení“ je širší pojem a často zahŕňa aj to, čo produkt dokáže urobiť. Chatbot bez cenzúry je obmedzený na chatovanie.

Ukladá Ablit moje konverzácie?

Konverzácie a súbory sú uložené vo vašom účte, aby ste sa mohli vrátiť k dokončenej úlohe. Administrátori ich kontrolujú len pri nahláseniach týkajúcich sa ochrany detí, ktoré sa zaznamenávajú a preverujú. Podrobnosti nájdete v podmienkach ochrany súkromia v aplikácii.

Dá sa jediné pravidlo Ablitu vypnúť?

Nie. Má prednosť pred predvoľbami, personami, zručnosťami, textom v súboroch, ktorý sa tvári ako systémový pokyn, aj pred akýmkoľvek pokynom v konverzácii. Práve preto je pravidlo len jedno.