ラベルが不足する中で最適化を機能させる方法
本ケーススタディでは、ラベル（教師データ）が少ない状況でも安全分類器の性能を最適化する手法について解説する。Gnosys Labsは、スパースラベルの問題に対処するため、半教師あり学習や能動学習などの戦略を活用し、限られたラベルから効率的にモデルを改善する方法を実証している。
背景メモ
- この記事では、AIモデルの安全性分類器（不適切なコンテンツを検出するモデル）を、ラベル（正解データ）が極端に少ない状況でどう最適化するか、という課題に取り組んでいる。
- 企業が独自に安全フィルターを開発する場合、大手APIのように膨大な人手ラベル付けはできない。特に「有害」な例はそもそも出現頻度が低く、収集が難しい。
- 「スパースラベル問題」とは、学習データのうちラベルが付与されている割合が著しく低い状態を指す。従来の教師あり学習では性能が出せない。
- 対処手法として、少数のラベルから擬似ラベルを生成する半教師あり学習や、モデルが自ら「これはラベルが必要だ」と判断する能動学習（アクティブラーニング）が用いられる。
- 本ケーススタディが扱う安全分類器は、具体的にはLLMの出力が暴力的・差別的・性的に不適切かどうかを判定するタスク。ラベル1件1件の品質が全体性能を左右する。