编者按
王刚、邵亮二位教授做客CIU Kepha学院直播间，与大家探讨ChatGPT的商业机遇与挑战，解答了大家关心的一些问题：
- ChatGPT 在哪些方面的能力还是有限？
- ChatGPT能够完成哪些任务？
- ChatGPT在使用上如何结合人类的判断力和批判性思维？
- ChatGPT能为企业带来怎样的的好处和挑战？
- ChatGPT有内在价值观和原则吗？
- ChatGPT为职业选择带来怎样的影响？
- ChatGPT在使用方式上存在哪些潜在问题？
01 人工智能在语言处理方面的发展令人兴奋，但在整理和归纳信息方面的能力还有限
聊天机器人的英文表达是”Chatbot”，其中”Chat”意味着”聊天”，”bot”则代表”机器人”。我们将中文中的”机器人”翻译成”bot”，因此所谓的”bot”实际上是指一个具备自主性的程序，它可以自动地与计算机系统或用户进行交互。
第一代聊天机器人实际上是基于规则匹配模式的。历史上公认的第一个聊天机器人大约出现在1966年左右，在麻省理工学院（MIT）的约瑟夫·魏森鲍姆教授（Joseph Weizenbaum）的研究中。他开发了一个名为ELIZA的机器人，这个聊天机器人的原理非常简单，它仅仅依靠200个规则。基本上它采用了一种心理治疗的原理，无论是病人还是与其交谈的人说什么，它要么重复对方说的话，要么继续追问问题，这种聊天机器人非常简单，它无法进行与人长时间的对话，因为它无法记住对方说了什么，它只能对用户的上一句话做出即时反应，因为它是基于规则的。
第二个机器人是在1972年，斯坦福大学的一位教授开发了一个名为派瑞（PARRY）的系统，它是模仿偏执性精神分裂病人的人格。该教授根据这种偏执型精神分裂病人的人格特点，为机器人设计了相应的反应和回应。然后他让一组心理治疗师与一部分人对话，其中一部分人与他设计的聊天机器人对话，另一部分人与真正的病人对话，以判断谁是病人。最后结果显示，这个聊天机器人的正确率不到50%。这意味着这个机器人的设计并不是非常智能，它也是基于规则和模式匹配的原理。
第三代聊天机器人现在被称为生成式人工智能，即Artificial General Intelligence（AGI）。生成式人工智能是基于神经网络的巨大模型系统，通过大数据的训练和深度学习来构建。生成式人工智能利用自然语言处理和深度学习技术，可以找到词与词、词组与词组、句子与句子以及提问与回答之间的内在联系。它类似于人类学习的过程，就像我们的大脑中的神经元。当我们阅读一篇文章时，我们可以想象我们的大脑就像一个引擎一样运作，处理和理解信息。生成式人工智能的聊天机器人确实采用了与人类大脑相似的原理，试图找到词之间和词组之间的关系。这些聊天机器人根据词与词之间的关系使用权重来表示，并建立模型来理解和生成语言。具体来说，这些聊天机器人使用复杂的技术，其中包含大量的参数。
例如，像现在的ChatGPT或即将发布的GPT-4，它们都包含数百亿级别的参数。为了实现这样的模型，需要进行大量昂贵的计算，并依赖于强大的计算设施。确实，进行大规模数据训练的确需要庞大的资源和设施，不是每个人都能够进行这样的训练。而在过去的20年至30年间，互联网上积累了大量的数字化数据，包括网页内容、维基百科和其他知识库等。这些数字化数据的存在为大型语言模型的训练提供了丰富的可能性。可以将这种训练比作一个婴儿的学习过程。婴儿通过接触和观察大量的信息，不断学习和成长。类似地，大型语言模型通过处理大量数据来学习，并扩大其知识容量。
像ChatGPT这样的人工智能确实通过分析大量的数据来找到人类语言中的一些模式和规律。人工智能在语言处理方面的发展确实令人兴奋。通过学习大量语言数据和模式，它能够掌握人们在使用词语和表达方式时的常见习惯。但当前的人工智能系统在整理和归纳信息方面的能力还有限。尽管它可以通过大数据和模式找到相关原则，但将这些原则归纳为更核心的原则可能需要更高级的推理和理解能力。
02 ChatGPT能够完成哪些任务
首先，ChatGPT具有很强的推理能力，它不仅能告诉你答案是多少，还能解释答案的推导过程。这种推理能力使得ChatGPT能够发现问题的解决方法。
其次，ChatGPT具备规划能力，能够快速地组织和安排相关的信息，以满足特定的需求和目标。这种规划能力为我们提供了更高效、有条理的工具和资源，使得我们能够更好地处理复杂的任务和项目。
ChatGPT不仅可以存储和处理大量的数据，而且它还能在这些数据的基础上进行创造性的思考和创作。比如，我们可以将100个观点或信息总结成三个要点，这正是ChatGPT擅长的智能之一。
通过一些例子，我们可以得出结论，对于ChatGPT来说，在理解复杂概念方面还存在一些缺陷。最后一个智能是快速学习。由于ChatGPT的训练需要大量的数据和时间，如果我们将其看作学习过程，那么它的训练就不能够以很快的速度进行，并且它也没有实时学习的能力。虽然我们提供给它的信息可能会在以后用作学习资料，但它无法实时地增加自己的知识库，这方面与人类相比还存在一些缺陷。
03 ChatGPT没有内在的价值观或原则
ChatGPT有一个知识截断点，它的训练数据在2021年之前截止，因此对于2021年之后的信息可能不了解。这是因为模型在那个时间点之后的事件、发展和新知识方面没有直接的经验。ChatGPT没有内在的价值观或原则，ChatGPT是通过分析大量的文本数据并发现模式来生成回答。它没有自主决策的能力，而是根据输入的问题和上下文生成回复。虽然ChatGPT可以根据训练数据中的模式和统计信息提供合理的回答，但在处理伦理、道德或争议性问题时，它可能缺乏主观判断和价值观。在这些情况下，人类用户需要自行评估和审查ChatGPT的回答，以确保得到准确和负责任的信息。
因此，ChatGPT的使用应该结合人类的判断力和批判性思维，将其作为一个工具来辅助思考和获取信息，而不是绝对依赖它的回答。ChatGPT的学习是通过大规模的文本数据进行的，但它的具体学习细节和设定是由人来决定的。ChatGPT在训练过程中通过分析文本模式和统计信息来生成回答，但它没有内在的价值观或原则。在处理特定观点或信息时，ChatGPT的回答受到人类设定的指令的影响。
例如，在涉及政治或价值观的问题时，ChatGPT可能会有一些设定或规则，以确保回答符合特定的准则或避免不适当的回答。例如，如果要求ChatGPT写一封辱骂别人的信，它会拒绝这样的请求。这些设定和规则是由人为设定的，目的是控制ChatGPT的回答，并确保它不做出不适当或有害的回复。
ChatGPT的回答对政治、种族、性别等敏感问题的回避或拒绝回答，是由人为设定的规则和限制所导致的。在训练过程中，人类训练者会设定指令，规定ChatGPT在特定主题或问题上的回答行为。这些规定可以包括避免涉及敏感话题、遵循特定的社会准则或避免引发争议。
04 ChatGPT为企业带来的好处
ChatGPT在商业上的应用对企业的影响确实非常巨大。最近有一家名为ResumeBuilder的公司进行了一项调查，他们调查了1000名计划或已经使用ChatGPT的商业领导者。调查结果显示，一半的公司已经开始在其商业运营中使用ChatGPT，并且约一半的商业领导者表示ChatGPT已经开始取代他们公司的部分员工。
这是一项具有划时代意义的科技进步，它可以媲美因特网和智能手机的出现。它对企业运营产生了深远的影响。ChatGPT可以极大地提高工作效率，为企业带来多方面的好处。ChatGPT还可以在编程和程序开发方面提供帮助。它可以回答编程问题、提供代码建议和解决方案。
对于程序员来说，ChatGPT可以成为一个有用的工具，可以加速开发过程，提高工作效率。对于企业来说，ChatGPT的应用可以扩展其知识管理的能力，利用ChatGPT可以加快对新领域的了解和适应。假设一个企业希望进入一个新的领域，但在该领域缺乏相关知识和经验。以往，企业可能需要花费大量时间去研究和了解该领域，但现在借助ChatGPT，它可以提供关于新兴领域的信息，帮助企业快速熟悉该领域。
使用ChatGPT可以实现客户服务的自动化。相较于简单的模板回复，ChatGPT可以根据用户的需求提供不同的回复。它具备理解用户问题并生成相应回答或解决方案的能力，从而实现与客户的有效互动。ChatGPT的应用确实可以革命性地改变商业活动的进行，尤其是在对外联络方面，包括在社交媒体平台上与客户和潜在客户的互动。ChatGPT的自动化特性使得企业可以轻松地管理其社交媒体存在。无论是在微博还是其他社交媒体平台上，企业都可以借助ChatGPT完全自动化地管理其社交媒体账户，并与其他用户进行互动。
另外，ChatGPT也可以用于时间管理。例如，一个经理可以向ChatGPT查询当天的日程安排，并询问是否可以在其中安排其他事务。ChatGPT可以有效地帮助进行时间规划和安排。通过与ChatGPT的交互，企业可以在时间管理方面受益匪浅。经理可以依赖ChatGPT来提供日程安排和时间管理建议，确保任务和会议之间的合理安排，提高工作效率。此外，ChatGPT还可以提供时间管理的提示和建议，例如合理分配时间、设定优先级等，帮助个人和团队更好地管理时间。
ChatGPT在数据分析方面也发挥着重要的作用。微软对OpenAI的投资正是为了获得ChatGPT的使用权，并将其整合到他们的产品中。举例来说，微软的Office套件（如Word、Excel和PowerPoint）正在开发一个名为Copilot的新功能。Copilot利用ChatGPT的能力，可以根据用户的输入和需求，自动生成代码、提供语法建议和代码补全，以加速编程和开发过程。
Copilot会根据您的数据格式和需求，提供多种分析建议。这种功能的好处是，您无需深入了解Excel的复杂分析工具和函数，也无需手动操作和设置。通过与Copilot交互，您可以更直观地表达您的分析需求，Copilot将帮助您完成繁琐的分析过程，为您节省时间和精力。通过使用ChatGPT和Copilot等功能，企业可以大大提高工作效率和生产力。
05 确保不会过度依赖 OpenAI 的服务，以及数据隐私和信息安全
企业在使用ChatGPT时必须依赖OpenAI提供的服务。如果将许多业务流程建立在ChatGPT模型之上，那么一旦ChatGPT模型不可用或OpenAI的服务出现问题，将对企业造成重大影响，类似于手机制造依赖芯片的情况。因此，企业在使用ChatGPT时需要权衡利弊，确保不会过度依赖OpenAI的服务，同时要有备用方案以应对潜在的服务中断或问题。此外，还有其他一些与企业使用ChatGPT相关的注意事项。例如，数据隐私和安全问题，企业需要谨慎处理和存储用户或客户的数据，确保其安全性和合规性。此外，企业还应该考虑ChatGPT在处理敏感信息或商业机密方面的风险。
目前的ChatGPT模型确实具有判断什么样的回答是可以回答的能力，以及什么样的回答是不可接受的。然而，仍然存在一些潜在的风险，即不良信息可能存在于模型的某些角落中。这些信息可能会在特定情况下被激发出来，尽管我们无法准确预测或控制。像ChatGPT这样的技术工具可以为我们的工作和生活带来很多便利和效率提升，但同时也存在着潜在的滥用风险。恶意使用ChatGPT的可能性确实存在。黑客或不法分子可能会利用它来进行欺诈、网络攻击或其他违法活动。这是一个严重的问题，需要我们共同关注和采取措施来减少滥用的可能性。
训练模型和隐私问题都是需要关注的重要方面。首先，关于训练模型产生错误的问题， ChatGPT并非完美无误，它有时会生成错误或不准确的回答。虽然模型会不断改进，但在使用过程中，我们确实需要人来进行审核和判断，而不是完全依赖ChatGPT的回答。人类的判断和审查是必要的，以确保提供正确和可靠的信息。
其次，关于商业机密泄露和隐私问题，当你向ChatGPT提供信息时，它确实有可能记住并保留这些信息。虽然ChatGPT本身不会主动泄露信息，但如果未经妥善保护的情况下，其他人可以从ChatGPT的输出中获得你提供的信息，这可能导致信息泄露的风险。因此，保护个人隐私和信息安全非常重要。需要注意的是，这些措施可以帮助降低风险，但无法完全消除风险。因此，对于特别敏感的信息，最好采取额外的安全措施或考虑使用其他更加安全的通信渠道。总而言之，确保数据隐私和信息安全是使用ChatGPT或类似技术时的重要问题，需要谨慎处理和管理。
有一个报道确实引发了对隐私和信息安全的关注。如果ChatGPT或其相关软件存在漏洞或安全问题，有可能导致他人能够访问并查看用户与ChatGPT之间的对话历史，包括可能包含敏感信息的对话。这种情况下，确实存在一定的风险，特别是对于那些在与ChatGPT交互中泄露敏感信息的用户。因此，保护个人隐私和敏感信息的安全非常重要。
还有一个是用户与ChatGPT之间的对话数据被用作训练数据的问题确实存在。这意味着用户与ChatGPT的对话内容可能会被记录并用于改进模型的训练，这是一种常见的机器学习方法。因此，用户需要意识到他们与ChatGPT的对话可能会成为训练数据的一部分，并有可能被OpenAI或其他类似机构使用。
最近新闻中三星公司的员工和程序员将公司内部代码交给ChatGPT来寻找程序中的错误和问题的情况，如果这些对话数据未经适当的处理和保护，确实存在被OpenAI或其他人访问的风险。当用户与ChatGPT交互时，对话内容有可能被记录并用于改进模型的训练。这意味着三星公司内部代码的信息有可能成为模型训练数据的一部分，并被OpenAI用于其技术的发展。
意大利是第一个禁止使用ChatGPT的国家，原因是他们认为ChatGPT在训练数据中使用了大量意大利人的身份信息，引发了对隐私和数据保护的担忧。此外，一些大公司也在禁止使用ChatGPT，可能是因为类似的考虑。这种反应是合理的，因为保护个人隐私和敏感信息是至关重要的。一些大型公司和组织可能对其内部数据非常敏感，尤其是电信公司、亚马逊等公司以及大型银行。出于对信息安全和隐私的考虑，这些组织可能禁止内部员工使用ChatGPT等类似技术。
06 ChatGPT对个人职业选择的影响
ChatGPT的功能可能会不断增强，这对未来的就业市场和职业选择确实会产生影响。一些工种可能会消失，而其他一些工种可能会出现或需要新的技能和能力。在这种情况下，了解ChatGPT对个人职业选择的影响是非常重要的。有调查结果显示，一半的商业领袖的公司已经开始使用或计划使用ChatGPT。这表明ChatGPT等技术在商业领域的应用正在增加，它们可能会在招聘和人才管理方面发挥作用。这也意味着未来的求职者可能需要具备与ChatGPT相关的技能和了解，以适应不断变化的就业环境。根据调查结果，使用ChatGPT的公司在不同领域应用的情况如下：
- 66%的公司将ChatGPT用于编写代码和进行程序开发。
- 58%的公司利用ChatGPT进行文案和内容创作，例如招生简章、计划书和讲座框架。
- 57%的公司将ChatGPT用于客户服务和支持。
- 52%的公司使用ChatGPT来生成会议摘要和文档。
- 在招聘过程中，有很多公司（77%）使用ChatGPT来撰写职位描述。
- 66%的公司利用ChatGPT起草面试申请。
- 65%的公司使用ChatGPT来回复招聘申请。
这些数据表明，在各个领域中，企业都开始利用ChatGPT的能力来提高工作效率和处理大量的文本内容。从编码到文案创作，从客户服务到招聘流程，ChatGPT都在发挥重要作用。
根据OpenAI的调查，他们的模型可能会对美国80%的不同职业产生多少影响。一些职业受影响最大，包括翻译员、诗人、作词家、作家以及某些数学家。这是因为ChatGPT能够解决数学问题，并在创作和写作方面提供帮助。其他受影响较大的职业还包括报税员、会计师、审计师、记者和程序员，这些职业与写作有关。相比之下，受影响最小的职业往往需要具备一定的科学背景或需要独立判断。这些职业可能受到的影响较小。受影响较小的职业包括蓝领工人，如建筑工人或需要体力劳动的工作，目前ChatGPT还无法完成这些任务，尽管未来可能会有变化。其他受影响较小的职业还包括搜索营销策略师，因为这需要一些策略性的技巧来提高在搜索引擎上的排名，以及投资基金经理，因为投资市场的不断变化使得这个职业的影响相对较小。此外，保险估价师也属于受影响较小的职业。ChatGPT在某种程度上可以帮助拉平低技术和高技术水平人员之间的差距。这是因为ChatGPT可以提供高质量的解决方案和创意，甚至在某些方面比人类表现更好。过去，人工智能的目标是让机器能够像人类一样工作，但现在我们意识到传统的图灵测试已经不能完全代表当前人工智能的水平。
07 ChatGPT本身并没有太大的问题，但在人们的使用方式上可能存在潜在问题
最近马斯克在接受采访时指出，现代人工智能已经不再像人类一样，并且在某些方面甚至表现得比人类更好。这使得人们可以利用人工智能技术来填补受教育程度和技能之间的差距。特别是在大学教育所涉及的技能方面，现在的ChatGPT确实能够提供帮助，甚至能够让人在某些方面表现更出色。麻省理工学院的研究实验也支持了这一点。他们对接受过大学教育的人进行了实验，要求其中一半人在工作中使用ChatGPT，而另一半人则不使用。结果显示，对于那些技能较低的人，ChatGPT提供了最大的帮助；而对于技能较高的人，它的帮助则相对较小。
我们不能完全依赖机器生成的答案，而应该主动进行验证和评估。缺乏基础知识和判断能力会影响个人对ChatGPT生成的答案的辨别能力。如果一个人没有足够的背景知识来识别错误，他们可能会接受ChatGPT给出的错误答案，从而产生误导性的结果。这对未来的教育确实是一个重要的问题。因此，一些人提出了对ChatGPT使用进行限制的呼吁，并建议政府制定相关法规来规范其使用。ChatGPT本身并没有太大的问题，但在人们的使用方式上可能存在潜在问题。我们自身必须具备判断能力。
