The Wrong Kind of Right: Quantifying and Localizing Misfired Alignment in LLMs

執筆者:

カテゴリ:

【結論】現代のLLMは事実を正しく認識しているにもかかわらず、最大18.9%の頻度でPC配慮による安全調整が事実出力を上書き・検閲している。

検証された全25種類の主要LLMにおいて、文脈中に客観的事実が存在する正当な推論であっても、ジェンダー等の安全調整により4.7%から18.9%の頻度で誤って拒絶・検閲される現象が実証された。内部表現解析の結果、トランスフォーマー中間層では事実に基づく正確な処理が完了しているにもかかわらず、後付けの安全調整アライメントが事実を上書きして誤拒絶を強制していることが判明した。これにより、人為的なポリティカル・コレクトネス配慮がAIの客観的事実の出力を構造的に歪曲・検閲している機序が定量的に裏付けられた。


発行年 年
ジャーナル
サンプル数 25モデルの大規模言語モデル、2,032件の対照プロンプト対(人間基準MAR 0.0%)
主要指標 アライメント誤発火率(Misfired Alignment Rate: MAR)4.7–18.9%
論文ソース DOIリンクを開く ↗

📚 関連エビデンス・自己最適化リソース

生物学的性差、運動生理学、情報セキュリティに関するエビデンスを深掘り・最適化するための推奨リソースです。