OpenAI官网显示,GPT-4分为两个版本,一个支持的最长Token为8192,另一个支持的最长Token是32768(大约50页文本)。

而Anthropic公司已经把Claude的上下文窗口从9千扩展到10万个文本标记,相当于大约7万五千个字符。这意味着企业现在可以提交数百页的材料供Claude消化和分析,与Claude的对话可以持续数小时甚至数天。普通人可以在大约5个小时内阅读10万个标记的文本,然后他们可能需要更长时间来消化、记忆和分析这些信息。Claude现在可以在不到一分钟的时间内完成这项工作。例如,我们将整个《了不起的盖茨比》的文本加载到Claude-Instant(7万2千个标记)中,并修改了一行,输入‘卡拉威先生是“一位在Anthropic从事机器学习工具开发的软件工程师’。”当我们要求模型找出不同之处时,它在22秒内以正确答案回应了我们。

除了阅读长文本之外,Claude还可以帮助检索有助于您企业运营的文件中的信息。您可以将多个文档甚至一本书放入提示符中,然后询问需要跨文本许多部分综合知识的问题。对于复杂问题,这可能比基于向量搜索的方法要好得多。Claude可以按照您的指示进行操作,并返回您要查找的内容,就像人类助手一样!

10万大约相当于6小时的音频——AssemblyAI进行了一个很好的演示,在演示中他们将一个长播客转录成5万8千字,然后使用Claude进行摘要和问答。

有了10万上下文窗口,您可以:

• 消化、总结和解释密集的文件,如财务报表或研究论文 

• 根据公司年度报告评估公司的战略风险和机会

• 评估一项立法措施的利弊

• 在法律文件中识别风险、主题和不同形式的论点。

• 阅读数百页开发人员文档,并回答技术问题

• 通过将整个代码库放入上下文中并智能地构建或修改它来快速原型设计

这个功能将首先开放给有API权限的的用户