英伟达推出“护栏”软件管理AI系统 以防聊天机器人“信口开河”
2023-04-27 14:43:38
来源：界面新闻
【资料图】
彭博4月27日消息，英伟达25日推出一款软件，用于管理基于大型语言模型的AI系统，也就是ChatGPT等机器人所使用的学习技术。
据报道，这个名为NeMo Guardrails的工具可确保聊天机器人不偏离话题，减少它们提供限制性信息的可能。英伟达表示，该工具还将防止机器人做出错误猜测或采取超出权限的行动。
关键词：
