出品 | 搜狐科技
作者 | 王一鸣
你写论文或作业的时候是否用过ChatGPT？
对于有些依赖AI的同学有个坏消息，其实OpenAI内部早在2022年ChatGPT上线的时候就开始讨论这样的反作弊工具了， 但为什么迟迟没有上线？
2023年初，OpenAI 联合创始人John Schulman（对，就是前几天离职的那位）总结了这种反作弊工具的优势劣势之后，高管一致认为应该问问广大人民群众的意见。
结果显示69% 的受访者认为AI检测工具会滥杀无辜，有30% 的受访者直接表示如果ChatGPT上线这个功能，那就直接减（放）少（弃）使用。
OpenAI内部其实也担心AI检测工具可能会影响那些不使用英语的群体，虽然在技术上确实没有问题，但是他们还是决定先研究一下Plan B替代方案。高层担心的是这样的工具是否会对OpenAI之外的生态系统产生影响。
不仅如此，内部还担心添加“水印”的技术还会影响ChatGPT写作质量。
OpenAI CEO山姆·奥特曼表示鼓励这个项目，但并没有推动它的发布。嘴上说支持，但身体还是很诚实的。
山姆·奥特曼参与了有关检测器工具的讨论。David Paul Morris/彭博社新闻
工具能真正发挥作用吗？
ChatGPT在生成语句的时候会通过token预测句子接下来会出现什么单词和单词片段，而OpenAI内部在讨论这个检测工具的可以稍微改变tokens选择单词的方式，这就相当于在一段话中打上了“水印”。
这种“水印”人类是看不出来的，检测器会提供一个分数，可以表示ChatGPT生成的可能性。文本越多检测工具检测的准确性就越高，可高达99.9%，在此之前只有26%。
当然了，其实这种水印也能通过“小技巧”去掉，比如用软件翻译成其他语言，然后再翻译回来，或者把一些词改成它的同义词，跟规避“查重”是一个道理。
这里其实涉及到另外一个问题，如果只有少数人拥有，那这个工具等于没有发挥什么用处。但是所有人都可以用，那就会有很多人去破解工具，比如开发破解工具修改语句让检测工具失灵，正所谓道高一尺，魔高一丈。
而且ChatGPT用户是真的不喜欢这个工具。
在巴黎举办的OpenAI推广大会。Julien De Rosa/法新社/Getty Images
现实情况
生成式AI在几秒钟之内其实就能根据一个指示就可以生成论文，所以一些大学教授跟学生之间就产生了一种猜疑链，学生会认为教授应该看不出来，教授和老师也会怀疑学生使用了AI生成。教授和老师们一致认为学生滥用AI是个大问题，他们非常急需这种工具。
很有意思的是，美国很多的高中生写作业的时候会想，老师会不会有什么魔法看得出来自己是不是让AI写了作业，但是最后发现，他们的老师真的完全看不出来。
犹他大学一位政治学教授就很机制，他在一个写作作业的要求中添加了一段很难发现的小字，说要提及“蝙蝠侠”（然而这个作业跟蝙蝠侠并没有关联）。
学生只要把作业要求提交给AI，那生成的内容中肯定会有“蝙蝠侠”，就直接露馅儿...
所以说由于AI的加持，就造成交作业的时候学生都不知道交了什么。
以前教授跟学生只是在“剽窃抄袭”的问题上斗智斗勇，如今看来又增加了一项。
那么人们都用AI聊天机器人干什么？
根据华盛顿邮报的分析，样本数量是Wildchat数据集中近20万条英文对话，其中数据不仅仅只包含ChatGPT。可以看到排名第一的是创意写作（21%），其次为协助家庭作业（18%）。
所以说OpenAI如果上线这个功能的话，一定会流失很多用户。
chatbot是什么?
ChatGPT是由美国人工智能研究实验室OpenAI开发的聊天机器人模型。 它能够学习和理解人类语言，根据聊天的上下文进行互动，协助人类完成各种任务。 这款AI语言模型能够帮助撰写邮件、论文、脚本，制定商业提案，创作诗歌、故事，甚至编写代码、检查程序错误。 与ChatGPT聊天的用户发现，它可以直奔主题，也可以由浅入深。 对于严肃话题和解决方案，ChatGPT的回答逻辑合理，用词得体，虽然没有提供新颖观点，但其清晰、直观且迅速的表达方式和反应过程令人印象深刻。 上线仅两个月，ChatGPT的活跃用户数量就超过了1亿。 然而，ChatGPT的能力也存在局限性。 在试用过程中，人们发现它在数学方面有明显不足，甚至无法正确计算简单的“鸡兔同笼”问题。 为了克服这一缺陷，ChatGPT最近进行了一次重要更新，提升了真实性和数学能力。 更新后的ChatGPT在对话模式上具备更好的交互体验，并且与上一代产品相比有显著提升。 尽管如此，与Google等搜索引擎相比，ChatGPT还不具备替代搜索引擎的能力。 这是因为ChatGPT的数据来源于训练数据库，而目前数据库只更新到2021年，信息有限，真实性也无法保证。 从商业模式来看，ChatGPT目前采用免费模式。 OpenAI的CEO Sam Altman表示，每次聊天的成本约为几美分，其中一部分是Azure云服务的费用。 未来，OpenAI计划在持续优化成本的同时，考虑通过收费获利，可能的收费模式包括订阅制和按条收费等。 随着ChatGPT的迅速走红，其竞争者也不断涌现，包括Anthropic公司的Claude、DeepMind公司的Sparrow、谷歌公司的LaMDA以及Character AI等。 这个领域的竞争将变得越来越激烈。
chatGPT是什么意思？
ChatGPT是是由人工智能研究实验室OpenAI在2022年11月30日发布的全新聊天机器人模型，一款人工智能技术驱动的自然语言处理工具。 它能够通过学习和理解人类的语言来进行对话，不仅上知天文下知地理，知识渊博，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，但ChatGPT不单是聊天机器人的简单，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。 同时也引起无数网友沉迷与ChatGPT聊天，成为大家讨论的火爆话题。
CHAT-GPT能代替小学语文作业辅导吗？
结论：OpenAI的CHAT GPT引发了热议，有人声称它可能革新写作，也有人担忧它可能挑战某些工作。通过初步体验，我发现它在短文描写和词语搜集方面表现出色，能够作为参考工具，但面对复杂理解和深度分析时，其局限性明显，更像是一个基于大数据的处理平台。尽管在撰写文案和产品介绍时有辅助作用，但目前AI仍难以完全取代人类在创造性思考和深度分析上的角色。对于未来，我们应保持警惕，鼓励原创和高质量的内容创作，以维护社区价值。以下是改写后的部分内容：在教育领域，CHAT GPT展现了一定的写作辅助能力，能提供生动的描写和成语参考，(对于短文仿写甚至直接引用有帮助)。 然而，(在面对新知识或复杂问题时，它倾向于胡编乱造或套用模板，缺乏深度理解)，尤其在理解文章内容时，表现相当(不尽如人意)。
尽管如此，(对于需要模板化或标准化写作的任务，如产品介绍，它能提供快速且多样化的文案)。 然而，(在涉及创新思维和综合性分析的领域，其机械的回答方式限制了其全面应用)。 目前(AI作为辅助工具的确能提高效率，但要完全取代人类岗位还言之过早)。
(对于内容创作者来说，重要的是保持原创和独立思考)，以避免(过度依赖工具导致内容质量下降)。 总的来说，(AI的潜力和影响还在持续发展，我们需要保持关注，同时鼓励高质量内容的创作)。 感谢大家的阅读，(让我们共同见证这一科技革命如何影响写作领域)。
