人工智能(AI)的发展日新月异,但也存在一些难题,比如 AI 模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。未解决这个问题,英伟达在周二发布了一款新的软件,名为 NeMo Guardrails,能够在一定程度上帮助软件开发者给 AI 模型设置“护栏”,防止它们产生不良的输出。
NeMo Guardrails 是一个软件层,位于用户和 AI 模型之间,可以在模型输出不良内容之前进行拦截和修改。例如,如果开发者想要创建一个客服聊天机器人,能够正常的使用 NeMo Guardrails 来限制它只能谈论相关的产品,而不能谈论竞争对手的产品或其他不相关的话题。若用户提出这样的问题,机器人能引导对话回到开发者希望的话题上。
英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达可使用 NeMo Guardrails 来阻止基于 ChatGPT 的机器人回答关于公司财务情况的问题或访问其他员工的私人数据。
此外,该软件还能利用一个 AI 模型来检测另一个 AI 模型的“幻觉”,通过向第二个 AI 模型提问来核实第一个 AI 模型的答案。如果两个模型给出不一致的答案,那么软件就会返回“我不知道”的回答。
英伟达还表示,这个“护栏”软件还有助于提高安全性,可以强制 AI 模型只与白名单列表中的第三方软件进行交互。
NeMo Guardrails 是开源的,并通过英伟达服务提供,能够适用于商业应用,开发者将使用 Golang 编程语言来为 AI 模型编写自定义规则。
据IT之家搜索了解,包括谷歌和微软支持的 OpenAI 等其他 AI 公司,也使用了一种称为强化学习的方法来防止 LLM 应用产生有害的输出。这种方法使用人类测试者来创建关于哪些答案是可接受或不可接受的数据,然后使用这一些数据来训练 AI 模型。
英伟达正在将其注意力转向 AI 领域,该公司目前占据了创建这项技术所需芯片的市场主导地位,其股价在 2023 年迄今为止上涨了 85%,成为标准普尔 500 指数中涨幅最大的股票。
关键字:引用地址:英伟达推出“护栏”软件,让 AI 聊天机器人不再胡说八道
“中国政府近日宣布,将斥资138亿元人民币,在北京市门头沟建设一个 人工智能 (AI)工业园区,这是中国政府计划在2030年前成为该领域世界领导者的首笔重大投资。”《自然》杂志官网1月16日(北京时间)发表综述文章《中国打响AI人才争夺战》,对中国AI人才短缺问题予以关注。下面就随网络通信小编共同来了解一下相关联的内容吧。 文章援引微软研究院驻北京首席研究员戴维·威夫的观点:“AI的未来将是数据和人才的较量。”“要成为全世界AI领导者,中国将需要庞大的、高水平的AI人才队伍做支撑。” 文章指出,中国AI公司正以令人目眩的步伐前进,至少有5家公司正在开发面部识别技术,包括Sence Time和Face++。这两家公司都在北京
21世纪以来,计算机市场从PC时代发展至移动时代,并逐渐向AI(人工智能)时代转变。智能机器人作为人工智能的重要分支,它的出现在科学研究、工业生产、日常服务等众多应用领域都有着很重要的意义,也可以综合反映一个国家在制造业和人工智能等方面水平的指标。 一般的智能机器人根据其智能程度不同,分为以下三种类型: 传感型 机器人的本体上没有智能单元,只有感应和执行机构,它具有利用传感信息(包括视觉、听觉、触觉、力觉和红外、超声及激光等)进行传感信息处理、实现控制与操作的能力。 交互型 机器人通过计算机系统与操作员或程序员进行人机对话,实现对机器人的控制与操作。虽然具
发展,威盛发布新一代嵌入式开发模块 /
近日,华为正式对外发布《华为核心网无人驾驶网络白皮书》,在业界率先提出了面向5G的核心网无人驾驶网络的理念、目标和构架,为5G核心网向无人驾驶网络演进提供了一条可衡量、可实践的指导性路径。 5G网络建设进入快车道,为数字化的经济提供了全新的基础设施,加速行业数字化转型。在这当中,5G核心网是使能千行百业的关键,而自动化是5G核心网实现业务敏捷、满足行业多样化需求和提升运营管理效率的核心要素。华为率先在业界提出无人驾驶网络(Autonomous Driving Network)的理念,从客户体验、解放人力的程度和网络环境复杂性等方面,定义了通信网络的无人驾驶分级标准。 华为凭借在5G核心网领域的技术一马当先的优势和对运维业务的深入理解,将
人工智能的发展现在使语音生物统计有充足的准确性,不但可以用于识别和个性化,还能够适用于支付认证等应用。Synaptics和ID R&D的新解决方案提供了可在边缘设备中的Synaptics SoC上运行的AI语音识别技术和反欺骗算法。具体来说,该软件已针对Synaptics的VS600系列中的神经处理单元(NPU)进行了优化,以用于智能家居设备,例如机顶盒(STB),智能扬声器和安全系统。 Synaptics将其具有AI功能的SoC出售给需要处理视频流,音频流和图像的智能家居产品。例如,典型的用例可能是机顶盒,其中包含用于视频会议的摄像机。 智能冰箱中的语音生物识别 语音生物识别技术现在已经足够准确,可以在智能家居设备
语音生物识别技术进行身份验证 /
未来对于高度动态和非结构化的自然数据的收集、分析和决策的需求慢慢的变大,这种需求可能超过传统的CPU和GPU架构。下面就随网络通信小编共同来了解一下相关联的内容吧。 英特尔 推出了一种先进的自学习芯片,名为Loihi。 Loihi模仿了大脑的运作方式,依据环境的不同反馈模式做相关操作。同时,Loihi也是一款节能的芯片,可通过数据来学习和推断,不需要以传统的方式来进行训练。它采用了一种新颖的方法,通过“异步激活”来计算。 Loihi研究测试芯片包括模拟大脑基本机制的数字电路,使机器学习更快更有效率,同时需要对计算力的需求更小。 这块仿神经芯片的模型从神经元的交流和学习中汲取灵感,其中神经元的激活、新突触的形成可以按
随着信息时代的来临,人类生产生活的数据基础和信息环境有了大幅度的提高。最近几年人工智能技术出现爆炸性发展,人工智能技术应用在不同的行业中,涉及到交通,零售, 医疗 等诸多领域,人工智能也从专业智能迈向通用智能,为我们的生活带来种种便利。 近年来,人们健康意识逐渐觉醒,人口老龄化问题不断加剧,智能医疗在国内外的发展热度不断的提高,在《2018 医疗大数据 和AI产业报告》中显示,医学影像AI技术已走到行业最前端。 2月25日,日本奥林巴斯公布了医疗内窥镜领域的新技术成果。医疗内窥镜检查将导入AI技术,该技术为日本多个大学联合开发,可将检查画面数值化,能快速精准的判断病人检查部位是不是有病变、病变是否为恶性以及今后
诊断新时代 /
今年3月,英特尔宣布以153亿美元收购Mobileye公司,8月8日,英特尔宣布已完成对Mobileye 84%股权的收购,计划将在今年8月底完成剩余股份的收购,这一消息如同重磅炸弹瞬间炸开。 据资料显示,Mobileye是以色列一家知名的高级驾驶辅助系统(ADAS)厂商,于1999年成立,致力于汽车计算机视觉算法和驾驶辅助系统芯片技术的研究开发,利用摄像头、软件和传感器探测汽车前方的障碍物,以此来实现无人驾驶。 收购情况简述 虽然英特尔收购了Mobileye,但在无人驾驶的研究上,Mobileye将整合英特尔的自动驾驶部门(ADG),英特尔的ADG团队将成为Mobileye的一部分,并且还是会以以色列为研发总部。 目前在ADG所
Alif Semiconductor与Telit Cinterion合作推出的一款边缘AI相机参考设计——Vision AppKit。这款产品设计小巧,被称为“邮票大小”的板,并且集成了多种功能,如LTE-M、Wi-Fi、BLE等无线连接,以及融合了传统逻辑与神经协处理器的微控制器。 Vision AppKit的核心是Alif Semiconductor的Ensemble E3微控制器,该控制器将两个Arm Cortex-M55实时MCU内核与两个Arm Ethos-U55微神经处理单元(microNPU)结合在一起。这种设计旨在加速边缘AI设备上的AI/ML任务,如人脸/物体检测和图像分类,同时运行时的功耗比其他边缘AI处理
相机参考设计 /
深入浅出神经网络与深度学习 (迈克尔·尼尔森(Michael Nielsen))
和机器学习应用的发展
直播回放: 英特尔 FPGA 可编程加速平台介绍,走近 AI、数据中心、基因工程等大咖工程
MPS电机研究院 让电机更听话的秘密! 第一站:电机应用知识大考!跟帖赢好礼~
电源小课堂 从12V电池及供电网络优化的角度分析电动汽车E/E架构的趋势
解锁【W5500-EVB-Pico】,探秘以太网底层,得捷电子Follow me第4期来袭!
2019 年,亚马逊、苹果、谷歌和 Zigbee 联盟成员共同组建了互联网协议家庭互联项目 (CHIP)。 该工作组制定了一项新标准,支持跨智能家 ...
SKAIChips 获得Ceva 蓝牙 IP许可授权用于电子货架标签 IC
RivieraWaves 蓝牙5 4 IP 结合 SKAIChips 自主研发射频 电源 模拟 AI 专业方面技术以实现最低功耗,对于ESL 和相关工业应用至关重要帮助 ...
Akamai推出可阻止内容抓取攻击的产品 Content Protector
Akamai Content Protector是一款专门管理爬虫程序的创新性产品,可针对网络内容抓取攻击的独特特征进行量身定制。2024年 2月20日 – ...
签署最新低功耗处理器设计、软件平台和安全 IP 许可协议Nordic签署 Arm Total Access 授权许可协议,确保其现有和未来的多协议、Wi-F ...
穿过标签并撞击物体表面后,太赫兹波被反射或反向散射到接收器进行身份验证。图片来自:麻省理工学院据美国麻省理工学院官网18日报道,该校 ...
芯原与新基讯联合推出5G RedCap/4G LTE双模调制解调器解决方案
温故知新:回顾 ST 2017 Roadshow,洞悉电子界技术新潮流!
有奖直播|多款MSP430片上Sigma-Delta ADC助力高精度信号检测应用 报名中
直播已结束【解锁 TI Sitara AM2x MCU 在电机驱动中的新可能】
站点相关:综合资讯传感器RFID生物识别网络传输电源管理处理器物联网安全行业规范创新应用可穿戴设备智能家居智能工业智能交通物联网百科相关展会专家观点射频