Anthropic调整AI使用政策,禁止对Claude持续且不必要的虐待行为
Anthropic调整AI使用政策,禁止用户对Claude实施“持续且不必要的虐待或残忍行为”。政策称,这仅适用于用户在毫无明显目的的情况下反复对模型实施残酷行为,不适用于常见的不满、反驳、黑暗创意主题以及模型测试和研究。终止对话仍是主要执行机制;Anthropic未就可能封禁用户等进一步措施置评。
公司与模型
Anthropic 的全部动态:Claude 系列模型、Claude Code、安全研究路线与公司进展的持续追踪。
103 条精选近 30 天 103 条共收录 114 条
Anthropic调整AI使用政策,禁止用户对Claude实施“持续且不必要的虐待或残忍行为”。政策称,这仅适用于用户在毫无明显目的的情况下反复对模型实施残酷行为,不适用于常见的不满、反驳、黑暗创意主题以及模型测试和研究。终止对话仍是主要执行机制;Anthropic未就可能封禁用户等进一步措施置评。
Anthropic推出长期网络安全计划 Anthropic Cyber Mission,旨在利用其工具、研究能力和资源,帮助防御方保护关键基础设施和开源软件。计划包括关键基础设施防御计划(CIDP),向相关防御方提供前沿模型、驻场工程师和威胁研究能力,保护电网、水务系统、交通网络和政府系统背后的运营技术。
据报道,Anthropic正组建一支内部团队,直接就人工智能议题与美国两党2028年总统候选人对接。该团队还将协助公司高层制定政治策略,并负责运营公司的政治资助项目。
Anthropic宣布将在三年内向特朗普政府的“创世纪任务”联邦计划投入1.5亿美元,并向包括NASA和NIH在内的超过15个联邦机构提供Claude。该公司还将向“创世纪任务”项目提供Claude、Claude Code和API额度。
Anthropic 推出 OSS Scanner,允许开源项目免费获得由其强大模型(包括 Claude Mythos)生成的定期漏洞报告。扫描结果完全由模型生成、没有人工审核或分诊,因此能更快更频繁地扫描,但报告可能不正确或无效。
Anthropic 更新 Claude 使用政策,将系统性滥用和持续、无必要的辱骂性行为列为禁止事项,并可警告、限流、限制、暂停或终止违规用户的访问。政策称,常见的挫折表达、反驳、黑暗创作以及模型测试和研究不在适用范围内;更新还涉及宣传活动、武器和监控限制,并承认政府合同可能存在例外。
Anthropic 为 Claude 推出两项 Beta 功能:Dashboards 可通过文本提示连接数据源并生成自动更新的实时数据看板,Motion 可根据文本、图表和图片生成动画讲解视频。Dashboards 面向付费用户开放,Motion 面向 Team 和 Enterprise 计划开放;Docs、Slides 和 Design 则结束 Beta 阶段,向包括免费账户在内的所有计划开放。
Anthropic 更新使用政策,禁止利用 Claude 干预选举、开发武器软件或进行监控,并明确禁止持续辱骂模型。政策称,针对模型的限制仅适用于反复恶意对待模型且没有明显目的的极端情况,不包括一般挫折表达、创作黑暗主题、模型测试或研究;政策还禁止利用 Claude 运营虚假账号或虚构新闻机构等欺骗性活动。
Anthropic更新使用政策,新增禁止用户持续且无必要地虐待 Claude,并进一步明确选举欺骗、武器相关用途和未经同意监控等限制。对恶意或虐待性用户,终止对话仍是主要执行方式;政策还要求可能造成伤害的自主硬件须由合格操作员观察并可在必要时停止。
节点财经围绕多家媒体披露的Anthropic秘密递交S-1招股书一事展开分析,称公司计划在11月美国中期选举后登陆纳斯达克,募资1000亿美元、目标估值超过2万亿美元。文章指出,Anthropic 2025年收入为46亿美元、净亏损约420亿美元,并签下约5180亿美元的未来算力和基础设施承诺;作者据此讨论其估值依据、客户集中度和算力投入风险,以及这场IPO对中国AI产业的影响。
16 岁少年 Bryce Vincent Gowryluk 使用 Anthropic 的 Claude 规划攀登 Crown Mountain 的路线,结果困在需要攀岩装备的陡峭岩壁上,后由 North Shore Rescue 救援队乘直升机救出。
Anthropic 发布 Claude Haiku 5.5,这是约一年后的 Haiku 层级更新,定价对标 OpenAI 的 GPT-6 Luna,并已上线 Claude Platform 和 Claude Code。
推荐理由:原文汇总了发布信息、第三方评测和价格细节,可用于比较 Haiku 5.5 与低成本模型的取舍。
Simon Willison 测试 Claude Opus 5.5 作曲,让它设计文本音乐格式并构建可播放的 artifact,生成类似《The Secret of Monkey Island》风格的游戏音乐。结果明显偏向 Monkey Island 主题,但作者认为效果出乎意料地好,并提出需与新旧模型对比验证这是否是文本模型近期出现的新能力。
Anthropic 扩大 Claude for Startups program,向符合条件的公司提供一年免费 Claude Team 和 $1,000 API credits。
云服务商 Lambda 正在以 $14.5 billion 的投前估值融资最高 $4 billion,可能是其计划 2027 IPO 前的最后一轮私募融资。
Anthropic 发布 Haiku 5.5,将100万Token以内短上下文输入价格降至每百万Token 0.1美元,输出0.5美元,缓存读取0.01美元。
Anthropic 发布 Claude Haiku 5.5,文章称其在小模型跑分上超过 DeepSeek V4.1Flash、GLM-5.3-Flash,并逐项赢过 GPT-6 Luna。
推荐理由:原文梳理了 Haiku 5.5 的价格、跑分和迁移改动,可用于评估小模型替换成本。
Anthropic 发布新的快速低成本模型 Claude Haiku 5.5,Simon Willison 实测称其在 100,000 tokens 内价格为 $0.10/$0.50,与 GPT-6 Luna 相同。
推荐理由:作者实测了价格、tokenizer 和推理档位,便于比较 Claude Haiku 5.5 与 GPT-6 Luna 的成本差异。
AWS 宣布 Claude Haiku 5.5 已在 Amazon Bedrock 和 Claude Platform on AWS 上可用。Anthropic 称该模型是 Claude 5.5 系列中最快、最高效的模型,面向 subagents 和高容量、成本敏感型工作,多数任务成本比 Claude Haiku 4.5 低约 75%。
推荐理由:原文说明了 Haiku 5.5 在 Bedrock 的可用方式和成本定位,便于评估其在高频子任务中的适配度。
Anthropic 发布 Claude Haiku 5.5,称其是公司迄今最快、最便宜的小模型,并同时下调 Sonnet 5.5 价格。Haiku 5.5 面向摘要、数据库查询、分类和实时客服等高量、成本敏感任务,100,000 tokens 以内提示词价格最高下降 90%,但新版 tokenizer 可能让实际节省小于单价降幅。
推荐理由:文章集中列出价格、基准和可用平台,可用于比较 Haiku 5.5 与同级模型的成本边界。