出品 | 搜狐科技
作者 | 王一鸣
你写论文或作业的时候是否用过ChatGPT？
对于有些依赖AI的同学有个坏消息，其实OpenAI内部早在2022年ChatGPT上线的时候就开始讨论这样的反作弊工具了， 但为什么迟迟没有上线？
2023年初，OpenAI 联合创始人John Schulman（对，就是前几天离职的那位）总结了这种反作弊工具的优势劣势之后，高管一致认为应该问问广大人民群众的意见。
结果显示69% 的受访者认为AI检测工具会滥杀无辜，有30% 的受访者直接表示如果ChatGPT上线这个功能，那就直接减（放）少（弃）使用。
OpenAI内部其实也担心AI检测工具可能会影响那些不使用英语的群体，虽然在技术上确实没有问题，但是他们还是决定先研究一下Plan B替代方案。高层担心的是这样的工具是否会对OpenAI之外的生态系统产生影响。
不仅如此，内部还担心添加“水印”的技术还会影响ChatGPT写作质量。
OpenAI CEO山姆·奥特曼表示鼓励这个项目，但并没有推动它的发布。嘴上说支持，但身体还是很诚实的。
山姆·奥特曼参与了有关检测器工具的讨论。David Paul Morris/彭博社新闻
工具能真正发挥作用吗？
ChatGPT在生成语句的时候会通过token预测句子接下来会出现什么单词和单词片段，而OpenAI内部在讨论这个检测工具的可以稍微改变tokens选择单词的方式，这就相当于在一段话中打上了“水印”。
这种“水印”人类是看不出来的，检测器会提供一个分数，可以表示ChatGPT生成的可能性。文本越多检测工具检测的准确性就越高，可高达99.9%，在此之前只有26%。
当然了，其实这种水印也能通过“小技巧”去掉，比如用软件翻译成其他语言，然后再翻译回来，或者把一些词改成它的同义词，跟规避“查重”是一个道理。
这里其实涉及到另外一个问题，如果只有少数人拥有，那这个工具等于没有发挥什么用处。但是所有人都可以用，那就会有很多人去破解工具，比如开发破解工具修改语句让检测工具失灵，正所谓道高一尺，魔高一丈。
而且ChatGPT用户是真的不喜欢这个工具。
在巴黎举办的OpenAI推广大会。Julien De Rosa/法新社/Getty Images
现实情况
生成式AI在几秒钟之内其实就能根据一个指示就可以生成论文，所以一些大学教授跟学生之间就产生了一种猜疑链，学生会认为教授应该看不出来，教授和老师也会怀疑学生使用了AI生成。教授和老师们一致认为学生滥用AI是个大问题，他们非常急需这种工具。
很有意思的是，美国很多的高中生写作业的时候会想，老师会不会有什么魔法看得出来自己是不是让AI写了作业，但是最后发现，他们的老师真的完全看不出来。
犹他大学一位政治学教授就很机制，他在一个写作作业的要求中添加了一段很难发现的小字，说要提及“蝙蝠侠”（然而这个作业跟蝙蝠侠并没有关联）。
学生只要把作业要求提交给AI，那生成的内容中肯定会有“蝙蝠侠”，就直接露馅儿...
所以说由于AI的加持，就造成交作业的时候学生都不知道交了什么。
以前教授跟学生只是在“剽窃抄袭”的问题上斗智斗勇，如今看来又增加了一项。
那么人们都用AI聊天机器人干什么？
根据华盛顿邮报的分析，样本数量是Wildchat数据集中近20万条英文对话，其中数据不仅仅只包含ChatGPT。可以看到排名第一的是创意写作（21%），其次为协助家庭作业（18%）。
所以说OpenAI如果上线这个功能的话，一定会流失很多用户。
chatgpt什么时候上线
ChatGPT在2022年就已经正式上线了。 具体的时间可能会因地区和平台而有所不同，但大致是在这一年推出的。 以下是关于ChatGPT上线的详细解释：
ChatGPT的发布历程
ChatGPT是由OpenAI公司开发的一款人工智能聊天机器人。 经过长时间的研究和开发，OpenAI在2022年推出了ChatGPT。 这款产品一经推出就受到了广泛的关注和使用，成为了一个非常受欢迎的人工智能聊天工具。 它不仅可以进行自然语言交互，还可以进行智能问答、语音识别等多项功能。 由于它采用了先进的自然语言处理技术，使得用户在使用时能够感受到非常自然和流畅的对话体验。
上线时间与反响
具体到上线时间，虽然全球各地的用户可能因时区差异而感知到不同的上线时间点，但大体上是在2022年面向公众开放的。 ChatGPT的发布引起了业界的广泛关注，许多用户和技术专家对其进行了评价。 由于其高度的智能化和便捷性，许多用户对其赞不绝口。 同时，一些专家也对其未来的发展前景表示乐观。
技术背景与发展趋势
ChatGPT的成功上线离不开其背后的技术支撑。 随着人工智能技术的不断发展，自然语言处理技术也得到了极大的提升。 OpenAI团队在这一领域的技术实力非常强，能够开发出如此先进的人工智能聊天机器人。 未来，随着技术的不断进步和应用场景的不断拓展，ChatGPT将会有更加广泛的应用和发展前景。 人们可以期待其在智能客服、智能家居等领域发挥更大的作用。 同时，其背后的技术也可能会持续创新和改进以满足更多用户的需求。
总之，ChatGPT在人工智能领域中展现了巨大的潜力并在公众中得到广泛关注。 自其上线以来已经持续迭代和改进其功能与服务水平以更好地满足用户需求提升用户体验和满意度。
ChatGPT分析代码漏洞靠谱吗?专家称还要靠人工
近日华为AI算法专家针对于市场非常火爆的ChatGPT项目进行能力评估。 最终李志华先生表示ChatGPT智能对于代码审计是有着一定的帮助，在审核代码的时候，还是有着一定的漏洞。 但是审核完毕之后还是需要人工去核实。 OpenAI公司所研发的ChatGPT人工智能技术最近火爆，全网网上关于该人工智能的报道铺天盖地的席卷而来。 ChatGPT它是一款采取人工智能技术所开发研究的自然语言处理工具，该项目的核心就是通过自然语言处理技术模型，包括情景模型以及语言模型根据提问者的问题自动去生成文章或者是代码。 应用的领域非常多，可以帮助公司识别恶意代码，提取签名，包括分析代码的漏洞从已经有的文本中去提取相应的情报给公司定时生成安全运营报告等等。 ChatGPT人工智能被人称为上知天文，地理下知科技领域，只要你想出来的问题都能被ChatGPT从善如流的回答。 虽然回答的答案都是准确的，但是如果细细追究起来，在细节方面就不胜完美，如果你在输入的问题中让它解释高深的物理理论，结果出来的答案包括引旧的论文都毫无出处。 比如让ChatGPT去搜索某知名学者说出来答案，你会发现他的履历都是东拼西凑的，有些回答是驴唇不对马嘴这也让更多人开始怀疑他的专业性能。 在分析代码漏洞的时候，如果是输入已经存在的SQL注入的代码。 ChatGPT所分析出来的结果是让人比较满意，但是当你去输入一个不存在SQL注入的代码时候ChatGPT回答就是错误的，这也就表明，利用人工智能去分析代码是有着非常大的漏洞，并不靠谱，最后还是要通过人工去核实人工智能所分析出来的代码，实际上是非常浪费人力成本。
为何多国学校禁止学生使用ChatGPT？
原因在于ChatGPT是属于人工智能技术，而这种人工智能将会代替学生做很多学习任务，从而让学生产生了依赖心理，这样就会让学生的大脑停止思考。 所以对于学生而言使用这种人工智能产品伤害性是很大的。 而美国、法国和德国这些国家禁止使用某某某人工智能产品的方向是对的，只有这样才能够更好的发展自己国家的教育事业。 虽然我们国家的很多高校考试都是书面考试，由于人工智能技术的发展让很多学生不愿意动脑，所以我国学校也要防患于未然，因为人工智能技术一旦发展成熟，虽然对社会生产力有所提升，但是这对于学生而言还是有很大伤害性的。 不可否认的是我们国家的人工智能技术虽然不先进，但是未来发展阶段我国人工智能技术将会引领世界，要知道我国现在的人工智能产品经运用到各项领域之中，在提高社会生产力的同时，野味科技兴国打下了坚实基础。 所以对于人工智能的发展有利也有弊，而想要利大于弊首先就要取决于人为因素，如果高校在运用人工智能技术首先就要做好相应规划，防止学生产生了太多依赖心理，只有这样才能够让人工智能技术产品更受人类控制，这样才能够有效的教育好在校学生，也能够带动社会生产力。 而ChatGPT是美国OpenAI研发的聊天机器人程序，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动。 对此，黄民烈认为，ChatGPT已针对法律、道德等问题进行优化，把涉及安全性和道德的问题作为ChatGPT的重要部分设计进去了，再通过不断的强化学习，ChatGPT就学到了安全回复的能力。
