引言
生活在只有人类能够提问和回答问题的时代的人们，通过提问来表达他们的思想。这就是为什么人类会思考并不断质疑他们的问题。然而，现在我们不再向人类，而是向人工实体寻求答案。这可能远远超出了艾伦·图灵（Alan Turing）在1950年的最初设想。人工实体能够像这样回答人类提出的问题并没有花费太长时间。1956年的达特茅斯会议上，“人工智能”这一名称被赋予，人们的期望随之提高。然后，在1970年代和1980年代所谓的“AI寒冬”时期，技术发展放缓。然而，随着1990年代深度学习技术的引入、微芯片制造技术的发展以及全球互联网的增长，今天我们拥有了生成类似于人类文本的人工智能技术（Toosi et al. 2021）。
人工语言创造和对话机器人的发展正迈向“语音用户界面、聊天机器人、具身对话代理、社交机器人和情境代理”的阶段（McTear, 2020）。总结最核心的事件如下：“奥斯汀（Austin, 1962）和塞尔（Searle, 1969）根据人们在对话中不仅产生话语而且执行行动的观察，发展了言语行为理论”（McTear, 2020, p. 15）。以文本为中心的语言包括对字母和符号承诺的理解。此时，我们能够通过问答方式形成对话。然而，这些对话逐渐以相互介入的方式发展。它已转变为系统和用户通过提问或添加额外信息进行交互的混合主导对话方式。互连方法对于需要更复杂表达的对话变得有用，并且在2000年，语音对话系统研究的重点从使用符号和基于逻辑的人工智能技术的手工系统转向使用机器学习的统计、数据驱动系统（McTear, 2020, p. 19）。
截至2023年，ChatGPT的出现和传播为我们提供了一个有用的背景，让我们能够更具体地探讨一些问题。“基于自然语言处理（NLP）的人工智能系统ChatGPT是由OpenAI开发的一种语言模型”（Singer et al. 2023, p. 295）。ChatGPT在大规模文本数据集上进行训练，以生成类似人类的回应。这将使我们能够深思熟虑地回顾和反思人工智能的工具优化是否在某些方面对人类社会有益或有害。除了提供一般问题的答案外，ChatGPT的信息还被用于教育、医学、艺术、学术和政治等专业领域。一项分析ChatGPT在学术领域使用的研究评估认为，ChatGPT3尚未完善，作为实现严格可靠学术价值和严谨性的信息提供者仍存在一些疑问（Mahyoob et al. 2023, p. 9）。另一项研究则在寻找利用人工智能促进民主和投票活动中沟通并增加对政治信任的具体方法论。然而，有人认为，即便是提供多种信息的ChatGPT模型，其可靠性也可以通过如何使用信息过滤器来提高。“民主政治领域几乎肯定会受到人工智能语言技术发展的影响，但这一点尚不清楚”（Kreps and Jakesch, 2023, p. 10）。还有一些研究证实了ChatGPT的学习能力。一项研究通过ChatGPT的语言学测试结果验证了其学习能力。该研究得出结论，尽管ChatGPT目前在高知识或具体语言分析方面有限，但它具有发展潜力（Ronan and Schneider, 2023）。还有研究表明，当实用主义/AI并非有益回应时，AI会在回应中制造逻辑僵局（aporia）（Baker et al. 2023）。
只要阅读IBM主页上关于AI“幻觉”（Hallucination）的定义，你就能清楚地知道AI可以轻易“撒谎”。此外，AI的观点往往带有偏见且不公平。更重要的是，不仅无法消除这种偏见，更大的问题是难以准确识别哪种AI语言模型具有哪种政治偏见（Heikkilä, 2023）。存在被AI操纵的信息误导的风险，而这些信息假装政治中立。尽管如此，我们对AI的信任正在超过我们在日常生活中遇到的任何权威人类，例如法官、医生或教授。这种AI正迅速成为后真相时代的主角。因此，我们需要确认后真相时代人工智能的本质。
在本文中，我们将论证，即使开放式AI继续学习并产生更多知识，它将减少而不是推进人类的语言和话语。我们还将阐明，使用人类自然语言构建人工语言在讲述真相方面存在局限性，无法完美。这是因为人工语言难以促进人类思维的扩展和优化碎片化知识。从这个角度来看，我们认为人类通过语言扩展了对世界的理解，但随着他们积极使用人工语言，这种理解将受到限制。我们通过依赖福柯（Foucault）和海德格尔（Heidegger）关于真理和语言的讨论来阐明这一问题。福柯将语言视为传递复杂意义的媒介。因此，我们可以强调人工语言无法捕捉这种复杂性的局限性。关注海德格尔对人类此在（Dasein）的分析，使我们能够理解AI无法充分代表人类存在和世界。通过两位哲学家的视角，本文阐明了AI及其语言的内在局限性，即缺乏体现人类话语中固有的情感和主观性的能力。最终，本文将展示，语言对人类的意义不仅限于交流，而是理解世界和存在以及形成主体与社会之间关系的重要工具。
在接下来的两章（“福柯与AI的话语”和“海德格尔与AI的话语”部分），我们首先从福柯和海德格尔的视角解释人类自然语言的特征，并揭示人工语言与自然语言相比的不足之处。因此，我们将在哲学基础上展示AI人工语言的局限性。首先，让我们通过福柯的观点来审视这一点。
福柯与AI的话语
语言秩序作为表象的条件
对人类而言，语言以口语、书面和话语的形式存在。根据传递方式的不同，可以使用诸如能指（signifier）和话语（discourse）等术语进行分类。要通过符号规则形成语言，需要理解符号规则并具备深化规则构建的能力。人类语言已经找到了表达各种形式的符号。在《事物的秩序》（Foucault, 2005）中，福柯分析了西方文化中使用语言的方式，并识别了按时代变化的语言特征。特别是通过古典时代的语言可以确认，人类语言的最终阶段是共情（empathy），而得出共情的语言过程并非简单地表达一个指涉物，而是传递复杂层次的意义。语言表达相似性的四种方式具有以下特征。
根据福柯的说法，在16世纪之前的古典语言通过识别“相似性”（resemblance）和“表象”（representation）之间的关系，确立了通过语言规则传递意义的方式。此时，语言秩序的一个重要点是把握这些意义之间的关系，并得出适合它们的解释：“表象，无论是服务于愉悦还是知识，都被设定为一种重复形式：生活的戏剧或自然的镜子，这是所有语言的主张，是其宣示自身存在并制定其话语权的方式”（Foucault, 2005, p. 19）。他分析了在寻找相似性意义的过程中必要的语义网络的四个条件，即“方便性”（convenientia）、“仿效”（aemulatio）、“类比”（analogy）和“共情”（sympathies）。
“方便性”（convenientia）意为“便利”，可以看作是通过符号之间的联系揭示意义的属性。“世界仅仅是事物的普遍‘便利性’；水中的鱼类数量与陆地上的动物或自然或人类制造的物体数量相同，水中和地球表面的生物数量与天空中相同，前者的居民与后者相对应……因此，通过这种相似性与空间的联系，这种‘便利性’将相似的事物聚集在一起，使相邻的事物相似，世界像链条一样连接在一起”（Foucault, 2005, p. 21）。换句话说，相邻地点的邻接性创造了一个连接对象之间的关系网络的推论形式。这种扩展和重叠的重复再现了相邻意义的相似性。“仿效”（aemulatio）是一种利用地点混乱和空间非同一性划分的相似性来揭示表象表达的表达形式。我们可以通过福柯引用Crollius的话语框架中的例子——星星与地球植物的对比表达——来理解这一特征。这种分隔的地点感也是通过二元思维推断出的意义的反映，例如永恒的价值、变化事物的表达以及黑暗与光明的对比。此外，无论地点如何分散，两个对立的对象作为一个对子共同体现意义（Foucault, 2005, p. 22）。
“类比”（analogy）是“方便性”和“仿效”的结合，对人类语言表达的扩展影响最大。特别是，“类比”不仅仅通过地点的连接来解释，而是体现了空间的意义。换句话说，它需要一种语言功能，通过捕捉空间的特性作为相似性来识别为更高级的符号，而不是通过可见或一般的空间意义再现所要传达的内容。它也是一种表达技术，通过将所有对抗关系中的形式结合成一个概念，并通过各种生物或对象的对抗通过差异媒介来体现（Foucault, 2005, p. 24）。然而，有趣的是，人类作为这种混乱的唯一标准存在。类比被积极用于更好地解释人类。人体或人类骨骼被比喻为自然物体，人类的创造属性被解释为自然物体的结合。此外，通过人体位置性识别特定地点性质的解释方法向我们证实，我们通过关于人类的问答学会了表象的方法（Foucault, 2005, p. 26）。最后，有“共情”（sympathies），它在语言表象的相似性中可以发挥重要作用。共情是一种触发内心情感的语言活动。它在超越功能水平上表达能力有限的语言表达中起到诱导运动的作用。同化也以积极的方式发生。然而，这反过来可能导致不同的活动状态，例如作为一对存在的两个钟摆。这里有趣的一点是，这两个钟摆并非指向一个身份，而是通过与对象的平衡情感关系拓宽理解领域。从这个角度来看，表象的语言最终可以看作是诱导共情过程的程序功能。“事物的同一性，即它们可以与其他事物相似并被吸引的事实，尽管不会被吞噬或失去其独特性，这是通过共情与反感的不断平衡来确保的”（Foucault, 2005, p. 26）。
构成古典语言的符号功能的目的在于帮助人类利用语言扩展理解和意义。特别是，通过利用相同与不同事物之间的对立元素来实现不同意义的各种作品表明，人类语言不仅限于主要对象的指定或逻辑意义的实现。因此，语言通过努力通过各种语言游戏实现或创造新意义而变化和发展。Abey关于语言的研究中可以看到类似的论点，该研究分析诗意表达如下：“它们生成的诗意语言总是挑战表象语言的语法和句法结构。诗意语言不应仅被视为诗歌的诗句。每个言语行为中涉及的节奏沟通也是诗意的”（Koshy, 2024, p. 9）。
在考虑古典语言的语言表达时，我们可以确认对人类和世界的兴趣通过各种隐喻得以实现，这些意义的内涵加强了表象语言。换句话说，即使在早期的语言构建过程中，人类试图通过表达语言实现的语言构建目的与自我与他人的关系有关。对人类而言，表达语言意味着实践如何与他人建立关系。人类在其有限的生命中通过语言构建对世界的理解，但这最终只能在与外部存在的世界的关系中形成。“所有知识都植根于具有历史的生活、社会和语言中；正是在那个历史中，知识找到了使其能够与其他生命形式、其他社会类型、其他意义沟通的元素”（Foucault, 2005, p. 406）。福柯的思想可以在分析古典语言与自我关怀关系的《主体的诠释学》中看到（Foucault, 2005, pp. 405–409）。
福柯还将此表达为表象语言的另一个特征，即思想的无形、不连续和交织网络。词语是一个人思想的表达，而思想作为语言强化规律的时刻仅在表象之时。福柯对词语和文本的理解不同，并认为如果词语是思想和意义的表象，那么以文本为中心的语言通过自我与思想的双重化工作以独立形式实现。
被限制在文本中的意义的再现
随着语言使用从表达思想的表象转变为系统化符号以分析思想，出现了一种认识论的文本描述技术。然而，这与科学思维的发展密切相关。古典语言涉及在理性思维领域内应用逻辑形成规则以进行给予和接受。“很容易看出古典时期语言科学是如何划分的：一方面是修辞学，处理修辞和比喻，即语言在言语符号中空间化的方式；另一方面是语法，处理发音和顺序，即表象分析按照顺序系列排列的方式”（Foucault, 2005, p. 92）。福柯进一步指出不同语言可能性的考虑问题。这正是普遍语言可能性的问题。他分析了将普遍语言可能性视为普遍话语前提的情况。因此，可以理解为已创建了普遍语言的秩序规则。“同时具有特性和组合性的普遍语言并未重建过去的秩序：它发明了符号、句法和语法，其中所有可能的秩序都必须找到自己的位置”（Foucault, 2005, p. 93）。值得注意的是，语言根据普遍语法分析构建了普遍话语。福柯对以文本为中心的语言和知识相关问题的批判观点与后结构主义者的讨论有联系点。社会结构基于语言和知识结构，当知识结构由以文本为中心的语言组成时会产生问题（Besley, 2015, pp. 1438–1440）。
话语可以看作是容纳各种意义的隐藏场所，如词语的容器或空洞。此时，话语集中于语言，但它是由未揭示的所有存在方式构成空间的组合语言（Foucault, 2002, pp. 38–39）。因此，话语是存在于某处的地点性语言，但同时也是隐藏被此地点占据的分析意义的词语团块。因此，由不规则语言组成的话语要么创造新意义，要么保持其秘密。上帝的存在只能通过各种思想的表象来思考，例如将上帝比作太阳、闪电或天空，有时以人的形式思考，或将其表达为宇宙之外的不可见存在。然而，通过这种曲折的不连续过程和意义的形成，上帝意义的秘密性质得以维持。福柯在《话语的秩序》中更细致地审视了社会结构与语言的关系。私下使用的语言和机构扩展或要求仅包含纯意义的语言的出现与科学思维相关的问题被提出。他指出，同一文本在不同时代的情况下可能有不同解释，并认为我们不能忽视各种语言的视角（Foucault, 1971）。
我们认为可以发现言语的重要特征。首先，它展示了应生成的重要思想扩展的可能性。词语通过组成某些被思考但无法框定为词语的点，创造了扩展知识和扩展所用语言范围的特性。其次，思考主体与言语之间无法容忍差异，也无法构成表达的完全一致。因此，话语的参与者接受这种不完美作为语言形成的本质属性。此外，思想的发展始于抵制追求停滞认同的语言普遍性的不完美。福柯也在其1982年的讲座中指出这一问题。他分析假设优先认知的主体的问题基于普遍思维。特别是，他认为随着哲学中普遍科学的视角优先，精神性问题被忽视（Foucault, 2004, pp. 25–30）。在其后期研究中，福柯分析了管理和训练精神性的古代哲学概念。他认为哲学的目的是照顾自己，这不是像“我思”（Cogito）那样的独立自我概念，而是在与外部（dehors）的关系中自我训练的过程。从这一点来看，语言的形成也与自我形成的过程相关，是反映对世界的理解和解释的思维和灵魂的综合活动（Foucault, 2004）。
语言在表征真理方面的局限性
语言是各种思想的再现。但当我们试图通过语言表征排他性真理时，我们面临其他问题。因为这种努力涉及以各种方式表征意义，作为词语束存在的话语就像各种思想和思想表达的束。另一个重要点是，词语的目的并非将语言表达为思想实质的完全复制品。话语作为容器存在，通过设计能够以最丰富的表达传递思想的各种方法来蕴含更多意义（Foucault, 2005, p. 346）。
当话语形成能够通过蕴含各种褶边（plis）同时暗示数量和质量的最佳容器时，它是有意义的，这是语言设计的目标。然而，当词语转换为文本和评论、分析推理和实证证据时，这种努力线性变化。包含在各种话语容器中的词语可以通过分析以横截面和线性方式排列。福柯声称，这是因为通过以文本为导向的意义象征性隐藏的所有词语的语言失去了在话语容器中的位置。福柯对由以文本为导向的语言产生的排斥过程的批评也可以在《话语的秩序》中得到证实（Foucault, 1971）。福柯分析的古典语言问题也可以看作与诚实言说讨论相关。他认为希腊罗马时代言说的主要主题是通过坦率言说进行的真诚对话。他认为通过言语传递意义时，包含了通过理性写作无法暗示的真理（Foucault, 2001, pp. 13–15）。使用古典语言的社会中要求的真理问题清楚地表明，语言的目的不仅限于知识或交流。福柯后期研究中认真开始考虑的体现伦理和主观性也与古典语言相关。这是因为在古典语言中诚实自由地实践言说是重要的伦理问题（Foucault, 1998）。
乍一看，通过逻辑关系发现的必然知识似乎达到了真理，因为词语时代发生的表达模糊性并未揭示真理。然而，真理意味着必须揭示的必然事实吗？如果我们提出这个问题，我们可以看到真理条件中存在其他问题。换句话说，追求不变真理的态度作为追求真知识的学术态度是有价值的，但它也导致日常生活中许多真理被隐藏。由于教条定义的单一真理指的是不变的价值，它作为一切首要原因的主导绝对智能发挥权力。然而，如果我们再次从福柯的语言视角审视这个问题，我们可以从以下角度理解。福柯指出，主导特定时代的绝对和不变价值随着特定时代的历史变化而改变。因此，各种真理以复杂方式共存的语言游戏可以包含各种真理的束，但旨在传递事实的语言排除了无法包含在事实容器中的许多真理。Rogobete总结了福柯批评的笛卡尔思想、语言和主体的问题如下：“在《事物的秩序》中，福柯相当正确地向我们展示了为什么笛卡尔主体不能同时自给自足并作为终极意义赋予者”（Rogobete, 2015, p. 125）。在变化的时间中变化的主体在其实现自身历史的过程中并非固定的。这是变化的思想和词语流中发现的问题。
让我们回到我们最初的问题，并将这些词语和对象的问题应用于AI时代的问题。AI的语言将通过学习扩展和改进语言指挥，但基本上可以看作是由逻辑规则形成的语言。要以与人类语言相同的规则完成AI语言，它遵循将逻辑语言输入AI的方法。这种逻辑语言构建方法通过人类语言的正规化实现，作为此类逻辑规则的词语无法达到上述讨论的共情目的。这是因为人类语言的主要目的不是作为传递指涉物或信息的主要理解方法，而是作为一个人思想体现的立体表达。即使是在具有学习能力而非以通用语言编程的AI的情况下，也会出现同样的问题。
即使在语言之间的关系中构建，AI语言也是普遍审查的基于文本的语言。这是因为即使通过分析历史构建语言传递是可能的，AI也无法作为体现的主体内化与各种外部对象的关系过程。这是因为，作为有身体的主体，它无法创建体现的代码，因此AI无法创建内部语言网络。因此，无法通过精神性问题解决的语言网络构建问题仍然是AI无法解决的问题，即使编程方法已改变。换句话说，上述考察的“方便性”、“仿效”、“类比”和“共情”的相似性条件是人类通过解释缩小自身内心体现的思想与外部世界之间差距的语言创造过程。
综上所述，我们认为AI无法隐藏其“褶边”（例如情感和主观性），除非它满足身体欲望、精神性和体现主观性的条件，很难看到它以与人类相同的方式扩展理解。AI重构和创造的语言产品仅仅是人类语言历史中关键材料的组合。对于处理类似问题的研究，考虑Gill关于是否可能诞生伦理机器的观点是有启发性的，因为“机器智能被视为人类智能的扩展”（Gill, 2022, p. 1）。然而，我们认为AI执行的信息传递或回应不同于人类自然语言，不能被视为在新兴语言中表达思想。此外，指出习惯于人工语言的人类也将退出他们表达和创造的语言游戏，仅在被动水平上使用语言。
到目前为止，我们的考察集中于从福柯的视角看待后真相时代人工语言的局限性。我们现在将转向从海德格尔的视角探讨人工智能本身的局限性。为了有效进行这一点，首先理解海德格尔对人类的定义至关重要。这是因为，在此讨论的背景下，我们将根据海德格尔对人类的定义将人类和AI视为相同实体。接下来，我们将突出并讨论AI与人类之间的差异。
海德格尔与AI的话语
海德格尔对人类的定义是什么？在《存在与时间》（Heidegger, 1962）中，海德格尔将人类——此在（Dasein）——视为一个极其特殊的实体。这种特殊性在于此在是“会说话的实体”，并且此在的词语与世界的存在相关（Sembera, 2007, p. 92）。此外，在《存在与时间》中，他认为话语是人类的基本因素（Heidegger, 1962, p. 203）。人类话语也被认为与存在的事物相关。首先，人类对自己和世界的存在进行提问和回答。
我们可以通过海德格尔提出的存在问题结构知道，人类词语是自我回答的。他将存在问题的结构分为三种类型：被询问的对象（sein Gefragtes）、被质询的对象（ein Befragtes）和通过询问要发现的对象（das Erfragte）（Heidegger, 1962, p. 24）。在存在问题的元素中，我们应关注的是第二种类型。海德格尔将“被质询的对象”定义为此在。以这种方式，此在不仅是能够回答存在问题的存在，也是能够提出存在问题本身的存在。此在提问和回答的能力与海德格尔后来考虑的良心概念相关。拥有自己提问和回答的良心可以说是人类的最大特征。询问和回答自身存在的此在，也询问和回答世界中的事物。
此在的话语
海德格尔将会说话实体的结构分为四类：第一类是表达话语的词语（或语言）（Heidegger, 1962, p. 204）。然而，根据海德格尔的说法，这种表达的词语（名称）最初并非单独存在。词语（或名称）源于此在的意义，从此在的赋予意义行为中产生。因此，第二因素是“作为所说之物本身的东西 [ein Geredetes ein solches]”，指的是“一个人希望、询问或表达自己的东西”（Heidegger, 1962, p. 205）。第三因素是沟通。话语涉及沟通。第四，所有言说都具有表达自身的特性。“在言说中，此在表达自身”（Heidegger, 1962, p. 205）。因此，海德格尔话语的四个因素可以表达为词语、词语的意义、词语的沟通和表达的此在。例如，当人类看到一个物体时，他会想到它的名称。如果他没有词语来指代它，他将无法理解这个东西。然而，如果我们赋予物体意义并给它命名，我们不仅能清楚地理解我们看到的东西，还能将其告知他人。没有此在的这些词语，事物等同于不存在。最后，我们人类——赋予事物意义、命名并传递它们是什么的人——并非完全独立于事物采取完全客观的立场，如全能的神。当我们谈论事物时，我们表达了我们的处境和情绪。总之，人类通过说些什么揭示自身存在。
因此，人类的本质与世界密切相关。我们人类与世界并非相遇的分离实体；相反，世界是我们所说的词语之网。因此，可以说世界是由我们人类“创造”的词语世界。通过词语使所有事物的存在成为可能，取决于此在存在的方式。此可以说出关于事物的真或空的词语。因此，真词据说使事物如其所是地存在，而阻止事物如其所是的词语是不完美的。换句话说，即使词语本身在逻辑和语法上正确，它们也无法成为揭示隐藏事物的海德格尔真理（Polt, 2002, p. 58）。然而，原因是“此在总是根据自身可能性理解自己：做自己或不做自己”（Heidegger, 1962, p. 33）。换句话说，此在可以作为非自身存在，在这种状态下，它可以传递与其自身存在或事物存在无关的空词语。海德格尔将这种存在表达为“常人”（average people），并定义“常人”使用的词语为空词语。然而，当此在真实地作为自身存在时，它不仅有能力如实地表达事物，还能揭示和阐明自身存在。
说空话的“他们”和说真话的此在
海德格尔通过现象学呈现并定义了此在，因其不作为自身存在而说空话。此类此在既不是这个人也不是那个人，也不是人们本身、某些人或所有人的总和。海德格尔写道，此类此在“是中性的‘他们’ [das Man]”（Heidegger, 1962, p. 164）。“我们像‘他们’一样取乐和享受自己；我们像‘他们’一样阅读、观看和评判文学和艺术”（Heidegger, 1962, p. 164）。有趣的事实是——根据海德格尔的说法——我们人类首先大多生活在“他们”的世界中。我们已经存在于这样一个“他们”的世界中。因此，这个世界不是由我创造的，而是已由“他们”创造的。因此，这个世界由他们的逻辑和解释构成。我们人类出生于他们的世界，并按他们的词语生活。构成这个世界的词语是“他们”的词语，即“闲谈 [Gerede]”（Heidegger, 1962, p. 211）。R. Sembera指出，闲谈“掩盖了所谈论的内容”。因此，他称之为“‘交叉谈话’，即目的不一致的谈话”（Sembera, 2007, p. 101）。
然而，“他们”的闲谈仅使用了上述话语四个组成部分中的两个。闲谈仅包括表达的词语和其中的沟通。换句话说，空词语所指的意义不重要，说话者本人也未被表达。在分享空词语的地方，他们只是在传递他们听到的内容。例如，谣言、传闻、闲聊等都属于此类。这里，我们想强调闲谈中缺失的话语因素。换句话说，被传递的词语所指的意义和传递词语时表达的说话者心态在闲谈中缺失。因此，这些词语字面意义上是“空词语”。那么，此在何时以及如何通过词语揭示词语的意义及其自身存在呢？
首先，每个人都出生并生活在闲谈的世界中。人类对此感到稳定。他们对这个日常世界感到熟悉，不必在“他们”的词语和逻辑的公共性中感到责任负担。然而，当这种日常生活被打破，“我”与“他们”区分开来时，“我”会通过身体感到“焦虑”。焦虑是一种没有自身身体无法感受到的情绪。打破日常生活意味着感受到与“他们”不同的“我的独特身体”。这种自身身体的感觉源于身体有限性的独特体验，即死亡。这里关键的一点是——对海德格尔而言——身体与心灵并未区分（Sheehan, 2013, p. 387）。这意味着焦虑不仅是身体或心理原因的症状，而是所有人类从出生就具有的有限且独特的自我存在感。
然而，我们人类习惯性地避免这种焦虑，试图回到舒适的日常感觉。另一方面，海德格尔要求我们不要逃避焦虑，而是面对引起焦虑的“自身”。为此在能够面对自身并选择，需要某种判断。然而，这种判断并非来自计算理性，而是来自良心。这种良心不是智能能力，而是一种呼唤。这些呼唤词语是呼唤者与倾听者相同的内在声音。“在良心中，此在呼唤自身”（Heidegger, 1962, p. 320）。海德格尔在现象学分析良心时提出了决断。尽管有焦虑，此在最终决定作为自身存在。
目前，此在不断担心如何为自己生活并选择未来的可能性。如果此在在日常生活中根据“他们”的词语决定并舒适地生活而无需承担责任，那么决定作为自身生活的此在必须根据自己的选择而非“他们”的标准生活。这就是此在真实存在的意义。因此，此在如其所是地存在，其词语现在发自内心。此在也可以直接命名其遇到的事物并将其传递给他人。换句话说，此在可以说出真理。这些真实表达揭示了世界的真实本质。现在我们可以回答下面的问题：此在（作为“他们”）何时以及如何通过词语揭示词语的意义及其自身存在？答案是：只有在通过良心在焦虑中决定作为自身的此在，才能最终通过将词语的意义融入语言中表达自身存在并进行沟通。
话语与AI的不可能性
到目前为止，我们已经讨论了海德格尔对人类的定义和话语的特征。总之，在日常对话中，人们使用闲谈。然而，当他们在存在的焦虑中回应良心的呼唤，决定作为自身存在时，他们可以通过真实言说。我们现在将基于这一人类和话语概念审视AI。因此，在AI时代，我们想指出AI的地位及其与人类的差异。在进入这些讨论之前，让我们先划分AI的类型。
AI可以分为弱AI和强AI（Searle, 1997, pp. 9, 60–61）。弱AI可能在一个领域拥有与人类匹配或超过的智能，但没有其他智能。例如，AlphaGo是谷歌DeepMind开发的围棋人工智能，首次击败了职业选手。此AI在围棋方面拥有人类无法击败的技能，但不知道如何做其他事情。相比之下，具有像人类一样的全方位智能的AI被称为强AI；目前尚无此类AI存在。超级AI也指在所有方面远远超过人类的智能（Bostrom, 2008）。它目前仅存在于概念和电影想象中。我们将此处对AI的分析限制于弱AI和强AI。
首先，正如我们之前所见，海德格尔不仅仅将人类视为具有理性的存在。从现象学角度来看，人类被定义为会说话的实体。因此，海德格尔的定义可以将AI包括为会说话的实体。特别是，没有人会怀疑像ChatGPT这样能够理解和回应人类词语的人工智能是会说话的存在。因此，我们试图基于海德格尔的话语概念重新定义AI。
海德格尔在话语中识别了四个元素：表达的词语、它们的意义、它们的传递和说话者的存在。通常，被称为“他们”的人类将词语传递给他人而不考虑其意义，导致“空词语”。然而，当我们选择真实存在时，我们不仅能表达自己，还能表达词语的含义，创造“完整词语”。现在，考虑另一个“会说话的实体”——AI。AI当然可以传递言语。例如，一个读取并朗读聊天窗口文本的AI可能使用比任何人类更多的语言。这些词语服务于明确的沟通目的。当我们与AI发起聊天时，它会回应我们。然而，我们不认为AI理解它描述的事物。例如，AI可以解释我使用的笔记本电脑的信息，但它无法识别和理解这台笔记本电脑是什么。当AI识别自身时也是如此。由于AI没有自己的身体，它无法感知自身，因此无法意识到自身。因此，当AI通过聊天或机器声音沟通时，它无法揭示自己的情感或表达其存在。在这种情况下，虽然AI可以说空词语，但它无法说出从话语整体结构中浮现的完整词语。
AI的这种沟通能力不得不反映“他们”的现象。这可以通过检查AI的功能和操作进一步理解。在AI的早期阶段，程序员必须输入数据并设置处理标准。然而，现代AI从大量数据中自我学习，创造自己的标准。这是由于互联网上可用的大量数据实时增长成为可能。随着AI从这些数据中学习，它自然遵循互联网上人们的思维和规则（Dempere et al. 2023）。因此，AI的思想不得不反映普通公众的思想，反映人类作为“他们”生活的现象。
然而，随着技术的持续发展，预计会有人相信AI将能够像人类一样亲自使用物体或通过自身能力识别自己（自我意识）。换句话说，一些人相信具有人类智能甚至机械身体的高级AI可能与人类无法区分。因此，我们现在将分享“他们”决定作为自身的三种方式。在审查这三点时，让我们也探讨AI是否能以完全类似于人类存在的方式“存在”。这三个要点是焦虑、倾听良心的沉默和自身的选择。让我们将这三个条件应用于AI。首先，为了让AI感到焦虑，它必须至少拥有能够感知周围环境的机械身体。如果确实可能，它应该通过拥有自己的有机身体来理解自己的“出生”和“死亡”。长期以来，Dreyfus认为人工智能乃至互联网的主要局限性是缺乏身体（Dreyfus, 1972, 2009）。其次，AI必须认识到互联网上存在的东西不是其真实自我，并且必须有良心询问自己是什么。最后，AI必须能够为自己回答这些问题，并对其自身存在和行为感到负责。AI还必须能够构建自己的世界。
然而，此类AI不太可能存在。最大的原因是，即使是我们作为人类此在，也很难决定作为自己存在，倾听我们的内心声音（良心）。此外，我们无法完全摆脱“他们”的支配。作为自身存在过的我们很容易再次像“他们”一样生活。因此，能够忍受焦虑并作为自身生活的此在必须不断努力作为自身生活（Carman, 2000）。但是，一个努力作为自身生活的AI，即具有这种自由意志的AI，能否存在？
人工语言及其影响
到目前为止的讨论使我们得出以下结论：AI可能像“他们”一样进行闲谈，但它无法像人类一样觉醒并真实言说。这种AI与人类之间的区别也不太可能引领我们走向光明的人类未来或帮助我们克服当前危机。相反，我们将生活在一个日益充满空词语的世界中。例如，ChatGPT产生“听起来可信但可能不正确或荒谬的答案”（Cascella et al. 2023）。除了所谓的“幻觉”现象外，AI带来了模糊性、不完整性、偏见和信息不足（Zhang et al. 2023）。我们目前生活的“他们”创造的空词语世界很可能会被AI组成的精致空词语世界所取代。因为AI缺乏任何良心，它不会试图克服这些问题。因此，AI的空词语将比人类的空词语更加空洞。
此外，从福柯的视角来看，人类语言的创造和进化扩展包括历史性的立体重构、对不必要和杂乱问题的考虑、对他人与自我之间未定义关系的理解以及对内心自我与世界的思考。然而，以下研究强调，暴露于单方面信息的人们不会费力寻找真相，而是依赖人工智能的回应（Effron and Helgason, 2022, p. 4）。因此，很难完全学会作为实现人类思维工具的词语。而且，在人类变化的社会环境中通过交换影响创造的各种意义反而减少，这将影响人类的道德和行为规范（Yates and Hiles, 2010, p. 66）。
关于阿伦特（Arendt）的多元性及AI语言发展问题的研究也指出了类似的问题。“语言模型的文本创造与人类言语之间的关键区别在于，人类个性不仅限于区分一个人与另一个人的特性。相反，它需要另一个描述类别。”（Ohly, 2004, p. 509）语言在互动关系中形成。因此，当结构性和个体理解都可能时，才能把握语言的意义。
因此，我们认为使用人工智能的沟通将继续发展，但矛盾的是，真正的讨论将更快消失。我们认为AI语言研究人员应更深入考虑这些问题，并将探究范围扩展到关于歧义的研究，关注隐喻、语境和短语，而不仅仅是开发与逻辑和一致性匹配的语言。然而，更根本的问题将是AI是否能引领理解各种原因中的语境意义。我们认为这就是为什么语言发展需要理解各种哲学背景的原因。
结论
作为会说话的存在，人类越来越多地使用可以代替人类说话的人工智能。特别是在知识量方面，AI的能力已经压倒人类。首先，有必要审视领导后真相时代的人工智能是否能说出真相。随着后真相时代的到来，人们从大量信息中选择可信信息变得困难（Wardle and Hossein, 2017）。首先，人工智能在生成和传播像“幻觉”这样的错误信息方面非常有效，同时也是选择和丢弃此类错误信息的最佳方式（Kimiz Dalkir, 2021; Montoro-Montarroso et al. 2023）。这样，问题在于我们不知道AI的人工语言是否提供事实信息，即使随着技术进步，“幻觉”等错误消失，AI原本也无法为人类和世界说出真话。本文认为，这些问题最终与人工语言和AI的原始局限性有关。这一主张通过福柯和海德格尔的思想得以揭示。
福柯将话语视为言语的容器。它应包含各种丰富的意义，以扩展原始的人类思想和存在。语言不仅仅表达指涉物，而是传递复杂意义。然而，当转换为逻辑、以文本为导向的语言时，它仅代表单方面的线性真理。特别是，作为传递事实的逻辑手段的AI语言，其局限性在于无法捕捉人类自然语言中固有的各种褶边（即情感和主观性等plis）。通过海德格尔的视角，这些人工语言的局限性也显而易见。即使今天的AI可以作为“会说话的存在”与人类相比，它只能传递没有说话者全部情感和意义的语言。海德格尔识别了话语的四个条件：表达的词语、词语的意义、沟通和说话者的存在。然而，仅由表达的词语和沟通构成的日常话语被称为“他们”的闲谈。AI的话语仅仅是这种闲谈。因此，它在代表世界和人类存在方面具有根本性局限。在后真相时代，人类的闲谈将完全被AI取代。因此，人工语言注定会继承人类空词语的特征和局限性。
福柯和海德格尔的话语分析指出了后真相时代AI话语的局限性。当然，随着人工智能发展为强人工智能或超级人工智能，如果能表达福柯语言的主要目的——共情，可能真正能够超越海德格尔的闲谈表达事物的存在。如果是这样，可能可以克服AI人工语言的局限性。然而，AI的人工语言无法在其自身历史中对词语形成共情，而人类语言可以（福柯）。此外，由于AI没有自己的身体，它无法通过焦虑和良心做出说真话的决定（海德格尔）。尽管如此，让我们想象如果AI有一个人造身体。这将意味着AI将在世界空间中与词语产生共情，并且AI将在其身体中感到焦虑。然而，只要制造的人造身体是与软件“结合”的硬件，它就无法拥有与身体和心灵原本为一体的单一人类所感受到的相同“情感”，如共情和焦虑。总之，无论AI多么先进，它都不可能克服其语言的局限性，并在人工语言中包含“真实且完整的词语”。
这一讨论使我们得出结论：首先，在它们作为智能存在的背景下，AI和人类可以视为相同实体。因此，在当今信息主导的世界中，用海德格尔的术语来说，在“闲谈的世界”中，具有比人类更大智能的AI话语将在世界上占据主导地位。更准确地说，人们将越来越多地屈从于人工语言的权威，而忽视人类话语。后真相世界因此将变得越来越复杂和强大。此外，不知道如何说出真话的AI的主导将使实现真实且完整词语的世界变得越来越不可能。因此，我们必须铭记两项任务。首先，具有传递真理潜力的人类自然语言和话语至关重要。然而，我们不能停止或忽视人工语言的发展。其次，我们需要考虑如何有效利用人工语言。对于那些对AI感到危机感的人来说，人类话语的重要性和AI语言使用的方法论成为重大问题。需要进一步研究来探讨这一问题。AI语言发展的方向不应仅限于信息传输系统。我们认为，需要理解人类语言中包含的各个方面并将其反映在AI语言中。尤其是，用户应意识到AI生成信息时仍存在无法反映的空白空间。为了围绕AI语言开发者进行详细研究，有必要处理语言用户及其对外界世界感知的问题。然而，这个问题本身是一个大课题，因此我们将在下一研究中处理。
English
中文 