标题: 与女科学家闲扯OpenAI ChatGPT 2023.2.8 ChatGPT 火出圈了，昨夜媳妇说她朋友圈这玩意儿刷屏，问我是个啥。我说之前我发 过一条Merlin插件的内容，你没看到？她当时以为是技术内容，根本就没点进去。简 单解释了一番，她兴趣大增，问能不能对她的医学专业文章进行查错修饰，问那些专 业词汇它能处理好吗，问这问那的。 对于ChatGPT，我只是个普通用户，说不出门道来，后面的内容纯闲扯，莫当真。 -------------------------------------------------------------------------- (a) 首要问题是用一用、试一试。对大陆用户而言，这是个不低的门槛，缓解方案参看 《Merlin - OpenAI ChatGPT powered assistant》 https://mp.weixin.qq.com/s/fnOGdYjHKFQ_khw83IFZ5Q 大陆用户用Merlin插件可以降低ChatGPT使用门槛，只要能科学上网即可使用。但是， 据说Merlin插件有每天15条的限制，不是ChatGPT的限制；此外，据说Merlin插件无 法维持上下文进行关联对话。Merlin插件这些不利之处在我而言都是据说，懒得反复 测试确认，仅仅是FYI。我用Merlin插件最多的场景是 Check and correct the following sentences, just correct typo 在单条中放入所有的英文句子，然后Copy/Paste到Merlin中，回车。把ChatGPT当成 Google Translate、Grammarly的替代品，是众多ChatGPT应用场景中非常常见的一类， 媳妇的第一反应就是查错修饰。 ChatGPT不只是前述语言工具，取决于作为对话者的你如何有效提问。当你是智障时， 无论如何也用不好ChatGPT。新手或许可以参看 https://github.com/f/awesome-chatgpt-prompts ChatGPT逐渐火出圈的过程中，服务端不断增加约束以减少滥用、恶意使用，到这个 时间点，其对公众开放的对话能力已经受限不少，不少问题不再有效回答。即便如此， ChatGPT在全球范围内迅速积累了活跃用户数，有被人肉DDoS的味道，导致服务端不 堪重负，经常提示过载，请稍后访问；加上访问信道本身不稳定的因素，大多数大陆 用户使用ChatGPT并不流畅。一种缓解方式是降低对话交互性，尽可能在长篇大论中 一次性有效提问，趁信道通畅之际快速完成一次QA。 若出于好玩的娱乐心态，维持上下文进行关联对话就必不可少了，此时Merlin插件可 能不适用此类场景，你只能设法注册登录使用ChatGPT，一些不断迭代修正的复杂的" 调教"过程显然需要维持上下文。 注册登录ChatGPT，有可能触发这类提示 ChatGPT We were unable to determine your country of origin to enforce geographical restrictions. The countries where ChatGPT is not available include Russia, China, Egypt, Iran, Ukraine, and a few more. 科学上网时ChatGPT若因故无法识别源IP所在国，也会拒绝使用，此时优先尝试切换 信道，有人还提及在隐私模式下访问ChatGPT。我未到过山穷水尽之地，仅仅FYI。 (b) ChatGPT表现出来的是一个全知全能型对话式AI，可能是人类历史上迄今为止所有搜 引擎、知识问答网站、各种百科全书的集大成者。自从Google登上神坛后，首次出现 一个绝佳的将Google拉下神坛的机会。你的Question不需要精准匹配某个已出现的条 目，它利用AI技术在已有Answer中挑选、组合最佳的那个。假设你的问题有0-9个已 知回答，ChatGPT会从0-9中分析拼装出一个它认为的最佳答案，这个分析过程是AI技 术驱动的，不是简单的模式匹配啥的。 关于这玩意的AI水平，老黑客stardust用他一贯睿智犀利的风格讲述了一段: 大语言模型可能真地没啥智慧，但表现出来的水平可能比一般人都好得多，可见一般 人在很多时候是多么的不用心，处理能力是多么的有限。在离常识很远而对语言很近 的领域，比如后现代哲学，这东西产出的垃圾可能比很多所谓的哲学家所能弄出来的 都要好看的多。 ChatGPT这种AI离大多数科幻片想象的AI还差得很远很远，但火出圈后很容易被误会。 (c) ChatGPT算是真正意义上将人工智能、大数据以一种大众喜闻乐见的方式砸到了普罗 大众面前，不考虑访问门槛的话，现阶段的ChatGPT俨然全民工具，至少寂寞时可以 与之插科打诨很久从而麻痹自己，滥竽充数时可以用它写好多好多垃圾并博得上司的 赞许(假设上司识别不出来的话)，等等，但这些不是它的真实面目。 据说不少科技公司已经基于OpenAI技术进行二次开发。在网络安全领域，有文章提到 用OpenAI写规则之类的。从技术角度看，这是一种不应排斥的探索，激进点的话甚至 可以说是趋势。 站在中国自身的国家安全立场，更宽泛点，站在非OpenAI所有国之外其他国家的国家 安全立场，可以大力发展自身的OpenAI技术，千万不要直接依赖现有ChatGPT所在国 的OpenAI接口进行此类二次开发。原因很简单，不多废话。若只是站在风口制造短期 卖点、玩点噱头，另说。 OpenAI是未来的国家核心竞争力之一。ChatGPT的出场顺带提出一些问题，中国的人 工智能到哪一步了，大数据杀熟、个性化广告推介算人工智能吗，中国本土会出现互 相竞争进而避免垄断的至少两种的OpenAI吗。现状是，在计算机科学领域，从硬件、 软件、发展环境、精神格局，与他国呈全面差距。 (d) 回到网络安全领域，能在交互式对话中、API调用中污染、破坏OpenAI的训练结果吗， 能在训练集的上游数据中有意识掺沙子从而在别人提问某类问题时对之产生指定的错 误答案吗？维基、百科、知乎这类站点都能被有意识地用于传播“假”，OpenAI怕是 难以独善其身。即便不考虑从Input端对OpenAI进行前述误导，单说引擎，显然有些 人和公司拥有修改引擎参数的能力，当OpenAI渗透到现实生活中时，《少数派报告》 修改引擎参数影响结论的场景就不再是科幻场景。 -------------------------------------------------------------------------- 完全不懂OpenAI，仅仅是站在普通用户角度给媳妇进行一些闲扯式科普。她打算用这 玩意改自己的医学文章，而我并未用它写程序或逆向工程，静等失业的那一天。