新闻

18
Mar
2024

Financial Times：中外专家签署“北京共识”-禁止AI自我复制

中国和西方科学家确定了人工智能风险的‘红线’。Hinton、姚齐智、杨耀东等科学家警告，人工智能的存在威胁需要像冷战时期避免核战争那样的合作。

将GPT-4安全性提升26%以上，北大团队提出AI对齐新范式，能充当大模型的“补丁”

8
Mar
2024

MIT Tech Review 封面报道：AI 对齐中的 ResNet 时刻

CCTV 深度国际：AI 机遇与挑战的双刃剑

17
Feb
2024

2023年人工智能走向爆发，生成式AI成为焦点。AI正在改变我们的工作和生活方式，创新带来机遇，挑战考验伦理。在全球舞台上AI的影响日益凸显，面对未知的将来我们如何作出选择？一场关于智能与责任的思考正在展开。

澎湃新闻：教育行业大模型亮相“数智未来”教育展

31
Jan
2024

由阿莱门科技为中国电信通过对齐训练的“精准教学大模型”以“教师精准教，学生个性学”为核心，展现因材施教的产品理念，通过将课堂教学和家庭辅学相结合，覆盖课堂互动、课后作业与考试全流程“学、测、评”一体化应用，实现精准教和个性学，帮助教师评阅工作量下降70%，智能生成学情分析报告助力因材施教，全面助力教育均衡发展。

联合早报：新加坡召开首届人工智能会议，商议AI缺陷和风险

我们如何利用从自然智能中衍生出来的发展模型和架构来创建新的人工智能范式？张宏江、漆远、黄天荫和杨耀东教授代表中国参加。

4
Dec
2023

17
Nov
2023

新华社：鹏城联合百川和北大突破国产算力大模型长窗口技术

全生命周期的模型工具集中，通过与北京大学杨耀东老师团队的合作，首创了带安全约束的RLHF对齐技术，有效提升了模型内容生成质量和安全性。

机器之心：四万字详解AI对齐：北大发布世界首个对齐全面性综述

通用模型时代下，当今和未来的前沿 AI 系统如何与人类意图对齐？通往 AGI 的道路上，AI Alignment (AI 对齐) 是安全打开 “潘多拉魔盒” 的黄金密钥。

1
Nov
2023

19
May
2023

机器之心：国内首个可复现的RLHF基准，北大团队开源 PKU-Beaver

北京大学团队通过引入了带有约束的价值对齐技术，著降低大语言模型在训练过程中可能出现的偏见和歧视问题，为大型模型的训练和对齐提供了新的研究范式。这不仅推动了RLHF技术的发展，也为确保大型语言模型的安全性和可靠性提供了重要保障。

CCTV 焦点访谈：新征程上，科教兴国还需人才支撑

教育、科技、人才是全面建设社会主义现代化国家的基础性、战略性支撑。必须坚持科技是第一生产力、人才是第一资源、创新是第一动力，深入实施科教兴国战略、人才强国战略、创新驱动发展战略，开辟发展新领域新赛道，不断塑造发展新动能新优势。

25
Nov
2022