来源:美股财经社
Anthropic的创立信念是:“我们这个时代最强大的技术,应该为人类的福祉而构建。”
个人动机:“我和Daniela的父亲死于一种疾病,而仅仅几年后,这种病就变得可以治愈。”Dario的职业生涯从生物学起步。
人类智慧已经让世界大部分地区摆脱了鼠疫、天花和小儿麻痹症,但攻克其他疾病的进展太慢,科学家太少,时间也不够。“自然界充满了这样的规律,但我们一直没有足够的智能去破译其中大部分。”
“我相信,足够强大的AI与人类协同工作,可以把一个世纪的科学和医学进步压缩到十年之内。”
Claude正在帮助科学家开展蛋白质折叠、药物设计、癌症基因研究和临床试验管理,节省了大量研究时间。Dario同时强调,这些都是早期成果,临床试验仍然缓慢,AI有望加快它。
Claude还被用于促进经济增长、减少贫困、支持民主,以及车管所(DMV)等公共服务。
AI风险包括个人或国家层面的滥用、经济冲击,以及对AI系统失去控制。
“我们谈论这些风险,不是因为认为它们不可避免、我们照样要做,而是因为我们认为它们可以避免,而且我们能够避免。”
“对安全不太在意,和对安全近乎执着,AI的走向会有天壤之别。”Dario提到公司在生物和网络风险防护、对齐测试和可解释性方面的工作。
“还有很多工作要做,最艰巨的安全工作仍在前方。”公司会把更多人才投入验证工作,“反复两次、三次检查”AI系统是否安全、是否始终处于人类控制之下。
“我们将把控AI系统训练和部署的节奏,花费一切必要的时间,直到确信它们是安全的、并将始终处于人类控制之下。”
“我们不会向商业压力或政治压力低头。”
“今天让公司的财务状况更加稳健”,而这“只会让我们更坚定地做正确的事”。
“向上竞争”:目标是让整个行业更好
“我们称之为‘向上竞争’(race to the top)。”如果Anthropic能证明安全与商业成功可以兼得,其他公司就可能跟进。
“当向上竞争运转良好时,哪家公司拥有最好的模型并不重要。每个人都是赢家,因为每个人都在安全地构建。”
“向上竞争最好由领跑者来推动,我们完全希望、也预期能做到这一点。但目标是让整个行业变得更好,无论Anthropic在某个时刻是领先还是落后。”
“机器智能的到来,是人类历史上的关键时刻之一,我们拥有一个难得的机会,让它朝更好的方向发展。”
“最艰巨的安全工作仍在前方。”
超过一半的《财富》500强企业目前正在使用 Claude。
Anthropic 拒绝了广告这一支撑互联网大部分商业活动的商业模式。
当一款新模型被发现特别擅长寻找安全漏洞时,Anthropic 暂缓发布该模型,并优先将其提供给网络安全防御人员。
仅在8月份,医生就使用了由 Claude 驱动的 OpenEvidence 4,200万次。