ag捕鱼王知识百科详情
【提炼】段伟文积极应对ChatGPT的伦理挑战
从知识生产方式的范式转换来看，如果说大数据分析带来的是新分析的话，那么所开启的大模型加人类反馈的自动化知识生成方式则是面向智能化未来的新综合。
为代表的生成式人工智能是机器智能与人类智能全新的交互组合方式，我们正在开启借助人工智能自动生成知识并全面重塑生活的前所未有的时代。
鉴于并不真正理解其所生成的知识内容以及对是非善恶的判断，而且有时会产生荒谬的错误或随意堆砌和编造内容，在缺乏批判性思考的情况下，将视为教育、医疗、心理、精神方面的解惑者或指导者，难免放大由知识生成错误和不准确造成的危害。
强大功能的涌现表明，在大模型的研发中，必须警惕出现有意识的通用人工智能的可能性，将及时防范人工智能可能威胁人类生存的安全风险作为发展前提。
对这一新综合的拥抱，将迫使我们面对一系列全新的伦理挑战。 除了当下热议的违背学习和研究诚信、侵犯知识产权等问题外，尤其值得关注的是以下两个具有开放性的社会伦理挑战。 的进一步发展，有望演变为普通人日常生活中的人工智能助手，成为解答知识、辨别是非乃至区分善恶的重要工具。
