Slovník pojmů
z oblasti
AI bezpečnosti

Specializovaná bezpečnostní vrstva, která chrání systémy umělé inteligence – zejména velké jazykové modely (LLM) – tím, že kontroluje a filtruje jak uživatelské vstupy (a pokyny / prompty), tak výstupy modelů. Na rozdíl od tradičních firewallů analyzuje sémantiku a záměr přirozeného jazyka a v reálném čase blokuje hrozby, jako je vkládání neautorizovaných dat do pokynů / promptů, únik dat a nebezpečné výstupy.Bezpečnostní řešení AI Firewall přináší nový přístup:Tradiční zabezpečení → zaměřuje se na síťový provoz a podpisy AI zabezpečení → fzaměřuje se na jazyk, záměr a chováníPrávě díky této změně se zcela nové pojmy – jako ovlivňování pokynů / promptů, sémantické filtrování a ochranné mechanismy LLM – staly nezbytnou součástí moderní kyberbezpečnosti.

Proces analýzy významu a záměru v textu, nikoli pouze v datových paketech nebo protokolech. AI firewally fungují na této vrstvě, což jim umožňuje odhalovat útoky skryté ve zdánlivě běžném jazyce.

Programovatelné zásady, které omezují chování umělé inteligence. Tyto zásady prosazují pravidla jako „nezveřejňovat citlivá data“ nebo „vyhýbat se škodlivému obsahu“ a obvykle se implementují pomocí filtrování vstupů a výstupů v rámci modelu.

Součást AI firewallu, která vyhodnocuje zadání a odpovědi na základě předem definovaných pravidel, požadavků na dodržování předpisů nebo prahových hodnot rizika a rozhoduje o tom, zda je povolit, zablokovat nebo upravit.

Model nasazení, v němž je AI Firewall umístěn mezi uživateli a systémem AI a zachycuje veškerý provoz za účelem kontroly a řízení ještě předtím, než se dostane k modelu.