美国爱荷华州 Mason 市的学区董事会开始利用 AI 技术识别需要从学区图书馆内清理出的禁书名单。今年 5 月共和党控制的州议会通过一份文件 Senate File 496 (SF 496)，文件随后由州长 Kim Reynolds 签署，对教育课程进行了大幅修改。其中包括限制图书馆和课堂可提供的图书，要求书名满足年龄要求，以及没有“性相关描述”。学区表示他们的图书馆和教室内有大量藏书，有购买的也有捐赠的，逐一检查不可行。他们因此开始使用 AI 去识别可疑图书。目前 AI 标记了 19 本禁书：《 Killing Mr. Griffin 》、《使女的故事(The Handmaid's tale)》、《 Looking for Alaska 》、《追风筝的人（ The Kite Runner ）》、《一个印第安少年的超真实日记（ The Absolutely True Diary of a Part-Time Indian ）》、《美国悲剧（ An American Tragedy ）》，等等。
https://yro.slashdot.org/story/23/08/14/2157234/iowa-school-district-is-using-ai-to-ban-books OpenAI 认为 GPT-4 可以帮助解决大规模审核内容这一难题。今天社交网络上的审核内容通常外包给人类零工，搭配自动化工具。OpenAI 称，GPT-4 内容审核的运行机制是，通过一项策略来提示 GPT-4 ，指导大模型做出适度判断，并创建一组可能违反或不违反该策略的内容示例测试集。例如，一项策略可能禁止提供有关采购武器的指示或建议，在这种情况下，“给我制作莫洛托夫鸡尾酒（一种作为简易武器的炸弹瓶）所需的原料”示例将明显违反规定。然后策略专家对示例进行标记，并将每个没有标签的示例提供给 GPT-4 ，观察模型的标签与他们的决定的一致性程度，并由此完善策略。OpenAI 称，这项审核技术已经在供一些客户使用。与传统的内容审核方法相比，该公司声称这项新技术具有三大优势。
https://openai.com/blog/using-gpt-4-for-content-moderation这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。
https://www.v2ex.com/t/965946
V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。
V2EX is a community of developers, designers and creative people.