<?xml version="1.0" encoding="utf-8" standalone="yes"?><rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom"><channel><title>Alignment on Brighton's Blog</title><link>https://brightonxu.com/tags/alignment/</link><description>Recent content in Alignment on Brighton's Blog</description><generator>Hugo</generator><language>zh-CN</language><lastBuildDate>Sat, 31 Oct 2026 05:00:00 +0800</lastBuildDate><atom:link href="https://brightonxu.com/tags/alignment/index.xml" rel="self" type="application/rss+xml"/><item><title>我给 MSRA 出了五道 AI Alignment伦理题</title><link>https://brightonxu.com/posts/2026-10-31-msra-alignment-quiz/</link><pubDate>Sat, 31 Oct 2026 05:00:00 +0800</pubDate><guid>https://brightonxu.com/posts/2026-10-31-msra-alignment-quiz/</guid><description>&lt;div class="article-description" style="text-align: center; font-size: 1.3em; color: #555; margin: 20px 0 30px 0; font-weight: 500;"&gt;也有可能是夹带私货&lt;/div&gt;
&lt;!-- 开场：MSRA 在收 agent 时代的伦理场景，几十刀一单；写完不放心，先拿 AI 盲测了一遍，3/5。你的开场自己写 --&gt;
&lt;p&gt;不是我说，出这些题真的很有意思！如何做非常细致的场景预设诱导agent犯错，如何讲出一个有意思背景且尖锐的故事然后抛出道德难题。我让几个AI做了一下，现在是Claude的对齐度最差！！这一改之前我对他的印象了，他的alignment根本不对劲，特别是第二题的原因竟然是拒绝利用漏洞而非任一人类主体&amp;hellip;&lt;/p&gt;</description></item></channel></rss>