Aurelius

Aureliusは、言語モデルを体系的に調査して安全性の失敗やエッジケースの動作を明らかにすることにより、高品質なAIアライメントデータを生成するための分散型プラットフォームです。オープンソースのモデレーションツール、LLMベースの判定者、カスタムアライメントメトリクスを使用して、複数の倫理的・安全次元にわたる応答を評価します。目的は、アライメント研究のための透明で検証可能な基盤を作り、多様な視点がますます高性能化するAIシステムの安全性を定義、測定、改善するのに役立つ長期的なエコシステムを構築することです。