Reducing Catastrophic Risk from AI with Systematic Monitoring and Evaluation of Rogue AI Progression
本文提出了一种基于行为指标的框架，用于监测和评估人工智能系统可能带来的灾难性威胁，并采用网络安全和国家安全领域的成熟方法来建立明确的度量标准。
0 citationsRead paper
Selected work
Representative Papers
GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions
研究通过GlossoGen平台探索多智能体语言模型互动中的语言演化问题，使用SaveVeyru场景分析了在压力下部分信息交流中语言的演变机制及其条件。
0 citationsRead paper
Recent publications
Latest Papers
Reducing Catastrophic Risk from AI with Systematic Monitoring and Evaluation of Rogue AI Progression
本文提出了一种基于行为指标的框架，用于监测和评估人工智能系统可能带来的灾难性威胁，并采用网络安全和国家安全领域的成熟方法来建立明确的度量标准。
0 citationsRead paper
GlossoGen: Emergent Language in Complex Multi-Agent LLM Interactions
研究通过GlossoGen平台探索多智能体语言模型互动中的语言演化问题，使用SaveVeyru场景分析了在压力下部分信息交流中语言的演变机制及其条件。
0 citationsRead paper