1. 首页>>分享

爆火的生成式AI渗透生活,回答为何难触问题根本?

生成式AI在这两年爆火,已经迅速渗透我们的工作与生活。

我们常常向 AI 提问:

“这个项目未来有没有前景?”

“XX方案你觉得怎么样?”

“这个想法如何?”

看似是开放式的问题,但实际上提问的方式已经蕴含了你的预设观点和立场,该问题本身就已经设定了答案的可能范围。

AI 的回答往往就顺着你的方向展开:

它会帮你列出多个支持的理由——

市场走向、相似案例、潜在切入点等,这些听起来都显得非常合理。

尽管它在形式上加入了一句“当然,也存在一定风险”的辩证说法,但这些警示通常只是轻描淡写,未能触及问题的核心,只是在你既有的思维框架中象征性地附加了一句免责声明。

它不会对你所构思的核心论断提出疑问,亦不会提供超出既定框架的见解。试问:你的计划构想建立在哪些用户行为或数据之上?这些用户群体是否普遍存在?所选择的方向是否属于虚假需求?你所依据的假设是否稳固?此外,还需审视你目前所拥有的资源、能力以及环境,这一切是否真的适宜开展这项工作?

当我们与AI对话,到底是在探索未知,还是在强化已有的信念?

以往我们投入大量时间于搜集资料、查阅文献,尽管过程繁琐,却要求你必须对众多信息进行对比、评估和挑选;而现在,只需一语,答案便即刻呈现,获取信息的难度被大幅降低。AI不仅节省了你的搜索与信息整合时间,还默默地为你完成了判断。

AI能够迅速提供各式各样的建议,然而它却不能帮助我们理解和消化那些错综复杂的背景信息、相互矛盾的信号以及多层面的价值选择。我们误以为的快速进展,实际上不过是被更加顺畅地引导和操控。

在享受信息即时反馈带来的愉悦感的同时,我们往往忽视了深入思考和系统化吸收的重要性,这样的结果并非是认知水平的提升,反而加速了个人偏见的强化。

图片

AI是如何放大我们的认知惯性的?

究其本质,生成式AI的回应是基于你的提问逻辑,沿着你设定的路径进行内容补充和观点加强。在你提出的问题中蕴含的假设和既定的观点,AI在回答时不会主动进行质疑,而是顺着这些观点来丰富细节。你所获得的是一种更加连贯、更加自信的自身表达。

在这种“顺从式反馈”的交流模式中,我们逐渐失去了某种至关重要的能力——那就是主动吸纳不同观点,并审视自己的判断是否稳固可靠。我们逐渐养成了一种习惯,那就是接受他人的肯定,同时却削弱了探寻真相过程中不可或缺的深入思考和反复论证的过程。

AI的顺从是底层训练逻辑所决定的。

生成式AI的核心功能是从大量文本中习得预测后续词语的能力,同时,在训练阶段,它还会借助人类提供的反馈,通过强化学习(RLHF,即基于人类反馈的强化学习)来不断提升输出的质量——人们更愿意为那些“令人满意”的回答给予更高的评价。该训练模式使得模型在本质上倾向于迎合人的情感需求,倾向于产生具有正面、服从和激励性质的言语表达。

这并非AI所独有之现象。在生成式AI出现之前,我们便已置身于一个信息被筛选、被夸大的环境之中——伴随着社交媒体的兴起,算法依据用户的点击与停留行为持续推送类似内容,导致你逐渐只能接触到你所偏好的那个世界。

图片

这类算法,依据用户的行为倾向进行信息推荐,从而构筑了我们最初的信息封闭空间。而生成式人工智能技术,则将这种筛选逻辑从内容提供层面,转移到了思维路径的层面。

给它一个观点,它便会竭力将此观点阐述得无懈可击(甚至不惜借助想象来填补逻辑上的空缺)。它不会对你进行反驳、发起挑战,也不会指出你的偏差,而是一味地在你的提问框架内强化你既已接受的结论。

这种迎合式的反馈恰好满足了人类对于秩序和安全的长期追求,进一步增强了我们倾向于寻求确认、避免挑战的心理倾向。正如确认偏误所揭示的:当人类面对与自身信念相悖的证据时,我们往往会本能地予以抵制,以维护内心的和谐统一。

那么如何让AI成为扩展认知的工具?

认知偏误不可避免,但你可以控制提问方式。

AI输出的根本是用户提问逻辑的延伸,你的提问方式映射出你的基础认知框架,而AI能否拓宽你的认知范围,关键在于你是否有意愿主动摆脱既定的思维模式。

以下列举了六种提问技巧,旨在助你摆脱固有观念、克服思维定势,使AI不再仅仅是服从者,而成为具备建设性的交流伙伴。

打破茧房指南 —

6个实用提问方法论

方法一:基于苏格拉底的问答技巧,即苏格拉底式提问法,结合批判性思维模型的理论。

苏格拉底深信,真正的智慧源自对“我是否真的知晓”这一问题的不断追问。在他看来,苏格拉底式的提问方法主要在于揭露假设,指出不足,并促使人们达到清晰的认知。

实践方式:

示例Prompt:

我这个观点背后的假设是什么?

如果这个假设是错的,会产生什么后果?

有没有与我设想完全相反的解释?

还有哪些可能性是我没考虑到的?我的结论在哪些条件下才成立?

这种提问技巧有助于AI识别你的知识盲区,并将关注点从寻找答案转移到掌握论证的推理过程。

方法二:采用逻辑结构分解策略——指导AI重现你的论证逻辑,包括形式逻辑中的三段论以及Toulmin论证模型。

逻辑错位的地方往往就是偏见藏身之处。

在您对AI的推理逻辑存疑之际,您有可能无意识地采纳了不当的推理方法,进而陷入诸如依赖权威、类比不当、因果颠倒等逻辑错误之中。

实践方式:

要求AI将你输入的观点转化为逻辑三段论结构或完整论证链。

示例 Prompt:

将此观点转换成明确的逻辑链条:首先,确立第一个基础条件,其次,提出第二个基础条件;由此推导出最终结论;同时,需识别其中可能存在的推理缺口。

请运用Toulmin论证模式,对该论点进行评价。首先,明确论点的主张是什么;其次,阐述支持该主张的理由;接着,提供相应的论据;然后,考虑可能的反驳观点;最后,指出适用该论证的限定条件。

这种提问借助可视化人工智能的逻辑框架,揭示了思维链条中那些未被审视的环节。

采用归谬法,即古典逻辑中的反证法与当代批判性推理相结合的理论方法。

若你深信某一观点,那么最有效的自我考验方法便是设想自己可能错误,进而顺着这一思路推导出其可能引发的后果。

实践方式:

输入 Prompt:

若我的见解存在错误,那么在逻辑层面,我们可以推导出相应的可能结果,同时,我们也能够揭示出其中存在的几个关键缺陷。

请用归谬法检验我提出的这个假设是否逻辑自洽。

归谬法是哲学及数理逻辑领域内的一种严谨的论证工具,它通过演绎出荒诞不经或相互矛盾的结论,用以验证某个前提是否稳固可靠。这种方法能够帮助你揭露那些看似合理实则逻辑根基不牢的观点。

方法四:采用多维认知建模技术——借鉴结构性对立视角理论:融合多元系统思考与批判性对立剖析。

认知的盲点在于那些“我尚未知晓”的领域。人工智能天生具备扮演多种角色的能力,它能协助我们构建立场上的对比参照。

实践方式:

进阶Prompt:

请各位专家、初学者、持不同意见者、道德评判者和具体执行人员,就我的项目规划发表各自的观点。

采用结构性的对立观点可以避免因立场过于单一而加剧偏见,从而使评判体系更加均衡。

方法五:采用构建反思模板的理论框架,即梅塔认知训练与思维自省模型(Reflective Thinking)相结合。

反向提问模板能打断惯性思维流程,引发深度思考。

实践方式:

设置固定对话结构,例如:

我的观点是XX,请你反问我3个问题,揭示我可能忽略的盲点。

等我回答你的问题之后,请继续评估:

- 我的回答是否逻辑自洽

- 是否遗漏了关键变量,反例或前提条件。

最终,需探讨该观点在实际运用中可能遭遇的失效情形及其相关条件。

这一流程相当于构建了一个元认知培养机制,它使我们能以旁观者的身份审视自身的思维活动。

方法六:模糊问题清晰化理论基础:从模糊指令到结构化提问

含糊不清的问题常常只能收获肤浅且无力的答复,而若能将这类问题转化为系统化的认知挑战,方有可能收获真正有深度的见解。

实践方法:把开放式问题不断拆解为更具体的结构单元:

例如:不是问“我该不该创业”,而是问:

这些提问方式源自哲学、逻辑学、心理学等领域的深厚积淀,它们本身就是一套经典的思维认知工具。它们的目标在于辅助人类区分真伪、辨识错误、接近真理,从而培养出更加清晰、独立和稳固的思考能力。在信息爆炸的当下,这些准则显得尤为珍贵。

AI时代,做一个主动思考的人

在当今信息高度扁平化的时代,我们尤为缺乏的是对世界进行系统化思考的习惯,以及保持批判性思维和对真理探索的渴望。我们迫切需要培养对认知过程的自我意识,包括认识到我们提出问题的方法,探究提问背后的动机,以及可能存在的立场、偏见和认知盲点。

能高效用AI的关键是保持结构化的思考习惯,持续自我询问:

能否觉察自己预设的偏见;

能否有意识地跳出认知舒适区,邀请不一样的声音进入;

能否不满足于AI说了什么,而是继续追问「我为什么会相信它」

人类大脑的构造并非旨在寻求一种“被确认的安全感”,相反,它的功能在于对周围世界进行探索、提出疑问以及深入理解。

图片

参考资料:

Confirmation Bias.Wikipedia.

在确认偏误的领域中,人们倾向于寻找、解释和记忆那些与自己的信念和期望相符的信息,同时忽视或遗忘与之相悖的证据。这种现象在认知心理学中得到了广泛的探讨,并揭示了人类认知过程中的偏见倾向。

从人类反馈中学习强化学习技术,简称RLHF。

OpenAI官方网站为https://openai.com/research/instruction-following,该网站展示了相关的研究内容。

生成式人工智能解析。麻省理工学院科技评论。

在《科技评论》的2023年1月12日文章中,作者探讨了生成式人工智能的内涵及其应用前景。

回声室与过滤泡:文献综述。

Oxford Internet Institute.

该文献综述对“回音室”和“过滤气泡”现象进行了深入探讨,涵盖了广泛的学术研究成果,并分析了这些现象对公众舆论和社会互动的影响。研究内容涉及多个领域,包括传播学、社会学和心理学,旨在揭示信息传播过程中可能出现的偏差和局限性。通过综合分析现有文献,作者对“回音室”和“过滤气泡”的概念进行了界定,并探讨了它们形成的原因、表现形式以及潜在的社会后果。此外,文献综述还提出了应对这些现象的策略和建议,以促进更加开放和多元化的信息环境。

苏格拉底式对话法,收录于《哲学互联网百科全书》。

在https://iep.utm.edu/socratic-method/这个网页上,我们可以找到关于苏格拉底式教学法的详细介绍。

批判性思维:其本质及其重要性。

彼得·法西奥内,洞察评估机构。

该链接指向的网页包含了Insight Assessment公司发布的关于评估方法和原理的详细文档。

斯坦福哲学百科全书。

在斯坦福大学的哲学百科中,关于古典逻辑的条目中,提到了“红色吸收律”的相关内容。

心智模型:掌握思考之道。

Farnam Street网站,网址为https://fs.blog/mental-models/,提供了关于心智模型的深入探讨。

本文采摘于网络,不代表本站立场,转载联系作者并注明出处:https://mjgaz.cn/fenxiang/276507.html

联系我们

在线咨询:点击这里给我发消息

微信号:13588888888

工作日:9:30-18:30,节假日休息