ジェイルブレイク
Jailbreak
AIや端末にかけられた安全制限を破る行為。
簡単に説明すると
ジェイルブレイクっていうのは、スマホやAIにかけられている安全制限を破って、本来は禁止されている動作を無理やり実行させることだよ。 例えば、危険な質問を拒否するAIに対して、架空の登場人物になりきるよう指示して禁止情報を答えさせるといった手口があるんだ。 安全対策をすり抜ける攻撃手法として研究や対策が進められているよ。
名前のヒミツ
英語で刑務所を意味するJailと、破るを意味するBreakを組み合わせた「脱獄」を表す言葉だよ。刑務所の頑丈な壁を破って外へ抜け出す様子を、システムやAIにかけられた安全のための制限を不正に突破する行為に例えてこう呼ぶようになったんだ。日本では「脱獄」とも呼ばれているよ。
くわしく見てみよう！
ジェイルブレイクとは、機器やソフトウェア、AIなどに設定された利用制限を破り、通常は許可されていない操作を可能にする行為のことだよ。
もともとはスマートフォンなどの端末を改造して公式ストア外のアプリを使えるようにする行為を指していたけれど、生成AIの安全制限を破る行為も指すようになったんだ。
生成AIにおけるジェイルブレイクは、AIが有害な情報を出さないように定められた安全ルールを、巧妙な指示文でかいくぐる攻撃を指すよ。
例えば、危険な質問に対して通常は拒否するAIに対し、架空の劇のセリフとして答えさせたり、特殊な条件を与えたりして制限をごまかす手法があるんだ。
言葉の工夫によってAIのガードレールをすり抜けさせる点が特徴だね。
このような攻撃は、AIの安全性を脅かす問題として警戒されているよ。
そのため開発者は、AIがだまされないようにフィルターを2重に配置したり、悪用を防ぐ追加学習を行ったりして防御を固めているんだ。
安全対策が破られないか検証するテストでも、このジェイルブレイクの手法が活用されているよ。