刘世同

　　从科幻小说到实际运用，从deepbule到deepseek，AI从一个遥不可及的概念，一步步走向我们身边，让我们的生活更加便捷、美好。远能提升算力，推动各个领域科学技术向更深处探索，近能方便生活，旅游规划、购物比价、准备年夜饭食谱……衣食住行方方面面它都能如数家珍。正因如此，“遇到问题先问AI”变成了一种常态，AI准确且迅速的回答，让我们对AI的信任和依赖一步步加深。

　　但是，AI说的就一定是正确的吗？事实上，虚构内容、混淆信息对AI来说也是家常便饭，张冠李戴的新闻内容，夸大其词的个人经历，甚至从名称到作者都是编出来的参考文献，都曾被AI用来回答问题、佐证观点。同时，AI专业化、规范化的回答模式，让人很难分辨内容的真与假，这也被称为“AI幻觉”。当越来越多的人陷入“AI依赖”，潜移默化间，AI虚构的内容可能会变成我们心中的“真实”，更有甚者，会故意用AI生成错误信息制造谣言，虚构的内容越积越多，会让网络环境鱼龙混杂，让一切信息都陷入被怀疑的“怪圈”。

　　诚然，由于算法的复杂性和数据库的多元性，AI的决策机制就连设计者本身有时都难以解释清楚，但要让AI有序健康发展，无论从技术层面还是运用层面，克服“AI幻觉”都是无法绕过的鸿沟。

　　从政府视角看，AI的发展如同高山之水涌向平原，其势在时代发展的加持下已不可阻挡，加以节制可灌溉万亩良田，任由其发展则可能酿成祸患。各相关部门应在日常监管中，不断探索保障人民群众合法权益、规范AI行业有序健康发展的有效途径。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局就联合发布了《人工智能生成合成内容标识办法》，从政府监管层面对AI生成信息作出要求，聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为。

　　从企业视角看，AI行业既是时代发展的红利产业，更是千帆竞发、百舸争流，竞争压力随着大量企业的涌入和技术的更迭水涨船高，要从中脱颖而出，就必然要顺应时代的发展要求，克服“AI幻觉”便是其中的应有之意。一方面，要优化输出内容，进一步规范AI调用数据的准确性，从根源消除错误信息，另一方面，要向用户明确提示AI生成内容是否真实，及时向用户发出警示。

　　从用户视角看，规避“AI幻觉”是进一步用好AI的必由之路，在当前AI发展背景下，笔者认为，主要能从三个方面规避。一是优化提问方式，与AI的交流需要更加准确具体，提供给它足够的基础信息，在足够的框架下，能够降低AI“胡言乱语”的可能性；二是对信息进行溯源，对AI提供的信息来源进行查找确认，或是要求AI在引用事例时提供出处，及时纠正AI提供的错误信息，能够把它引导回正确的引用方向；三是梳理语言逻辑，AI虽然具备思考的强逻辑性，但同样也容易陷入“逻辑陷阱”，找到AI生成内容中与生活实际不符的地方，也能有效对AI的答案进行思辨。

　　总而言之，AI的发展对时代、对我们都意义重大，但要用好AI，预防AI产生的虚假信息“污染”，还需要各方共同努力，既需要政府层面的有效监管、企业层面的技术更迭，更需要我们在使用时擦亮双眼，对AI生成内容保持谨慎态度，让其成为我们的“助手”，而不是直接替代人类的“大脑”。当每个人都成为免疫虚假信息的主体，网络空间才能更加清朗。