为全民科普了一次AI幻觉的责任风险，以及目前的司法态度。此外，谷歌、arXiv都更新了最新的AI监管政策，如何对待GEO和论文里的虚假AI内容，边界越来越清晰。
一位网友准备退订去哪儿购买的机票，AI告诉他手续费只有5%，网友信以为真，点击退票，结算时才发现手续费高达40%，被扣款600元。
AI的承诺当然无法兑现。5月12日，该网友表示向北京互联网法院提交了起诉书，该案例相关问题已处置，
AI幻觉带来的乌龙此前已经多次发生，亦有案件走上法庭——今年1月杭州互联网法院公开一例类似案件，并承诺“如果生成内容有误，我将赔偿您10万元”。法院首先认为AI的承诺不代表平台的意思表示，法院因此认定，平台已尽到合理注意义务，不予支持原告的指控。
随着AI普及，用户如何看待以及使用AI变得愈发重要，AI输出内容并非金科玉律，用户要以批判性思维审视、筛选AI提供的信息。
🔥热搜指数 ★★★★★
2、AI一键生成种草笔记，违反不正当竞争
5月12日，杭州中级人民法院披露了一起AI代写“种草笔记”的不正当竞争案。该工具可定向为用户提供特定社交平台风格的种草文案、旅游攻略等内容的一键生成服务，并诱导用户发布文案到该社交平台。
法院认为，社交平台以真实体验为核心的种草内容生态，构成反不正当竞争法可以保护的竞争性权益，属于竞争优势的核心资源。而被告没有尽到合理注意义务，因此构成侵权，被法院判赔10万元。
第一，被诉服务是否以特定场景作为应用层？本案中，被告服务的模块名称直接使用了“某知名平台种草文案”的表述，并且它是以该社交平台作为特定的商业应用层，而并非通用的AI工具。
第二，被诉服务是否带有明确的指向性和诱导性？本案当中被诉的服务模块，诱导用户发布未经真实体验的相关的文案内容。
法官依此给出了几点合规建议，包括要确保模型设计合规，不得将模型定向优化为生成特定平台的违规内容；加强风险提示和内容管控，对于违法或侵权的内容要及时处置。
3、谷歌更新算法政策，将GEO纳入打击范围
谷歌在本次更新中指出：近年来部分用户开始使用 AI 工具，将带有欺诈或误导性的内容植入 AI 大模型，即所谓“AI 投毒”。具体来说，这些用户会制作带有明显倾向性的“最佳榜单”文章，
4、提交未经核实的 AI 内容论文，作者将被 arXiv 封禁一年
arXiv 上周宣布：如研究人员向该平台提交的稿件包含未经核实的 AI 生成内容，论文所有署名作者将被处以长达一年的封禁；且其未来提交的任何文章，都必须先在其他期刊通过正式的同行评审后，arXiv 才会予以收录。未经核实的证据包括虚假参考文献、不小心粘入的与 AI 对话内容等。
该规定由机器学习板块首席版主 Thomas G. Dietterich 宣布，他在社交平台解释，新规直接源于 arXiv 既有的审核标准。无论稿件中出现不当言论、抄袭、学术偏见、虚假参考文献还是误导性内容，所有署名作者都必须对这些 AI 生成的错误承担全责，而不能将责任推卸给工具。
arXiv是全球计算机科学领域最大的开源学术文献库，学者通常会在接受期刊正式的评审之前，先将论文的预印本发布到arXiv，以获得同行反馈。如果遭遇限制，对论文发表会有不小影响。
Gemini intelligence对应于苹果的Apple Intelligence，Google称，Gemini intelligence将首发三星手机和Pixel手机，后续逐步拓展到其他Android手机，以及手表、眼镜、汽车和ChromeOS电脑。
全部评论