Anthropic 相关话题

IT之家 7 月 31 日消息，金融时报（FT）发布博文，指出 AI 公司 Anthropic 虽然声称“要负责任地开发 AI”，但通过 ClaudeBot 机器人过度抓取网站数据，用于训练 Claude 大语言模型。 尽管使用网络爬虫抓取数据是人工智能行业普遍做法，但 Anthropic 因其激进程度而受到批评。 自由职业者网站 Freelancer 也表示，ClaudeBot 在四小时内访问了 350 万次，被迫对其进行屏蔽。批评者指出，Anthropic 无视网站的 robots.txt

根据TechCrunch报道，AI公司Anthropic公开了其最新AI模型Claude系列的系统提示，以提高透明度并展示其对有道德的AI的承诺。这些提示词定义了AI模型的行为准则和个性特征，如礼貌、诚实、中立和对争议话题的客观性。Anthropic希望通过公开这些提示词，推动行业标准和竞争对手的透明度。 Anthropic首次公开了其AI模型Claude 3.5 Opus, Sonnet和Haiku的系统提示词。这些系统提示可用于指导AI模型的行为，防止不当行为，如避免打开URL、链接或视频

OpenAI和Anthropic作为AI领域的领军企业网络炒股杠杆网站，深知自身在推动技术进步方面承担的责任。为了确保新的AI模型不会带来社会风险，两家公司决定在推出新模型之前，交由美国政府下属的AI安全研究院进行评估。这一合作旨在确保技术进步服务于社会的长远利益，同时避免潜在的负面影响。 AI安全研究院成立于2023年，是拜登-哈里斯政府行政命令的产物，其宗旨是推动负责任的AI创新。该研究院将对OpenAI和Anthropic的新AI模型进行全面的安全评估，包括模型的能力、可能带来的风险以及