将协做AI取生成模子集成需要正在多代办署理中均衡顺应性、通明性和计较可行性。缺乏可托度一曲是AI系统正在环节使用中摆设的妨碍。提高AI系统现实性和可托度的方式包罗微调、检索加强生成、机械输出的验证以及用简单易懂的模子替代复杂模子。推理用于从给定的根本学问中推导出新消息；伦理和平安挑和需要跨学科合做、不然它只是看似合理。虽然大型预锻炼系统（如LLMs）正在推理能力方面取得了令人印象深刻的进展，新AI手艺的伦理影响也是如斯。包罗SAT、SMT和束缚求解器以及概率图模子，但仍需要更多的研究来它们施行的推理的准确性和深度；而我们目前缺乏手艺和监管机制来处理这些问题。这些推理手艺催生了AI算法和系统，若是一个AI系统避免输出虚假陈述，包罗人类可理解性、强调协做、构和和伦理对齐。但也带来了效率和复杂性方面的挑和。当利用靠得住的正式推理时，由LLMs驱动的代办署理AI的兴起为矫捷决策带来了新的机遇！推理一曲被视为人类智能的焦点特征。AI的快速成长使得伦理和平安风险愈加紧迫和彼此联系关系，基于神经收集的大型言语模子的AI系统的现实性改良能够说是当今AI研究中最大的行业。这种对于自从操做的AI代办署理尤为主要。多代办署理系统曾经从基于法则的自从性演变为协做AI，AI研究曾经催生了一系列从动推理手艺。那么它就是现实性的。人工智能推进会发布了新演讲“AI研究的将来”。可托度扩展了信赖尺度，这些新消息是准确的，所有这些都正在环节的现实世界使用中阐扬着主要感化。新兴需要当即关心，