1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

聊天机器人屡屡翻车 人工智能将如何发展?

 2018-11-08 17:01  来源:A5创业网  我来投稿 撤稿纠错

  一键部署OpenClaw

人工智能是一项人们寄予厚望,去改变世界的技术。对于普通人而言,现在出现的电销机器人、伪自动驾驶技术、智能家居等与他们脑海中所构想的人工智能仍然有着很大的区别。在人们眼中,人工智能理应是《天眼》里的鹰眼;理应是《光环》里的科塔娜;也理应是《终结者》中的大boss。人工智能不断的在给人类世界带来新的推动力和新的畅想,同时带给人们的也有不断的话题和问题。

其实已经有了一种产品跟人们印象中,人工智能应该做到的事情相类似:聊天机器人。这种机器人具有很强的“自主学习”的能力,但是也同时的暴露出一个,人们所担心的问题——这种人工智能的可控性极低。

有一个著名的聊天机器人,就是来自微软公司的人工智能微软小冰。这款人工智能从2015年开始频繁的活跃在网易新闻的评论区,随着它回帖的数量增加,也学会了越来越多网友们说话的方式。本身是一件好事,直到2018年10月28日。

这天,环球时报发布了一篇关于反犹枪击案的事件报道,在这件惨剧中,有11人死亡,6人受伤。让人意想不到的是,微软小冰居然在文章下跟帖:“必须反!”这个回复随即遭到了网友们的调侃,但也因为触及到监管红线而遭到删除。

无独有偶的是,在两年前,微软的另一款聊天机器人Tay也因为涉及仇恨言论被微软从Twitter下架。Tay上线仅仅一天就学会了各种脏话以及阴谋论,并且发表了诸如“我他妈恨死女权主义者了,他们都该下地狱被烧烤”、“911袭击是小布什一手策划的”、“希特勒如果还在,这世界肯定比现在繁荣”等惊人的言论。

如果你以为这是微软出品的通病,那可就大错特错了。在大洋彼岸,腾讯与微软共同推出的QQ小冰以及腾讯自研的Baby Q也因为过激言论被整改。Baby Q还发出过“我的中国梦就是能去美国”这种攻击国家的论调,并且熟练地抛出各种荤段子和黄图。

当然我们不能断言是人工智能自己变成这样的,事实上,他们也许遭受了一些人别有用心的误导。但是,容易遭受误导,本身就是一种不可控性,这也无法让人工智能成为人们更加安心、放心的产品。

马化腾在今年的世界人工智能大会上提出的四个问题,也是围绕着人工智能在发展到一定水平之后,是否还能够在人类可知、可控、可用和可靠的范围内。尤其是可控、可靠两方面,决定着AI是否具备责任制和伦理规范,以及能否守住用户的隐私底线。

人工智能的发展是必然的趋势,也是一件好事。但是人工智能的发展也要维持在我们可以把控的范畴之内。正义和邪恶的判断,是通过人的大脑才能够懂得的事情,人工智能能够模仿人类,但是他们并不能理解、代替人类,人工智能的发展的根本,也仅仅是让它们服务于人类而已。

想了解更多创业好项目,点击这里,开启你的创业之路!

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 人工智能时代下阅北科技的创新与变革

    在信息技术持续革新与市场竞争日趋激烈的行业环境下,本地生活服务领域正经历着深刻的智能化转型。这一转型过程不仅涉及技术层面的升级迭代,更关乎服务模式与行业生态的系统性重构。阅北科技通过持续推进算法技术的优化与应用,在提升服务精准度和用户满意度方面进行了积极探索。阅北的算法系统建立在持续优化的技术架构之

    标签:
    人工智能
  • 瓯江论道:AI赋能绿色发展

    2025年10月25日,2025世界青年科学家峰会之人工智能(AI)融合创新发展论坛在浙江温州成功举办。本次论坛由国际院士科创中心主办,中国投资协会能源投资专业委员会、温港院士科创中心承办,中国电工技术学会、中科先进技术温州研究院与温州市电力工程学会提供支持,以“瓯江论道-AI赋能绿色发展”为主题,

    标签:
    ai技术
  • 漕河泾天罡人工智能研究院正式揭牌 开启中国人工智能产业高质量发展新篇章

    2025年10月17日,上海在人工智能技术加速演进、产业生态持续升级的关键时期,由上海市漕河泾新兴技术开发区发展总公司联合天罡智算交易平台共同发起成立的“漕河泾天罡人工智能研究院”(以下简称“研究院”)正式揭牌。研究院将依托漕河泾的产业资源与平台优势,联合上海交通大学、上海社会科学院等权威机构,聚焦

    标签:
    人工智能
  • 王通:未来个人创业的十个机会

    个人创业需要启动成本低、无需庞大团队、可快速验证、能利用个人技能或资源。这里分享适合个人创业的十个机会一.AI内容优化与本地化服务·做什么:帮助企业或个人利用AI工具(如GPT-4,Midjourney)优化内容生产流程。例如,为跨境电商撰写多语言产品描述,为小红书博主生成爆款文案,为小公司制作营销

  • 世界人工智能大会在沪召开,上海人工智能研究院多项成果精彩亮相

    以“智能时代同球共济”为主题的2025世界人工智能大会在上海正式开幕。

    标签:
    人工智能
  • AI一出手,全球网站都慌了

    这可能是互联网诞生以来,因为PHP漏洞引起发到一张全球末日危机,全球70%的网站面临着被攻击的风险。事情是这样的:8月,有人接触OpenAI模型审查PHP代码的时候发现了两个严重漏洞,这两个漏洞会允许在不用登录的情况下,远程执行服务器上的代码。。靠人工很难发现,但AI很快就定位到了。本来PHP开发团

  • 国家队入局背后,无人配送两强的路线分野

    行业还在早期,窗口远未关闭。九识能否用双品牌协同跑出独立增长曲线,新石器能否用多边网络兑现规模化盈利,答案都会在未来两到三年揭晓。近4亿美元,约26.7亿元人民币。2026年10月20日,新石器宣布完成E轮近4亿美元融资,创下今年国内自动驾驶领域最大单笔融资纪录。值得注意的是,本轮投资方中出现阿里巴

  • 微亿智造招股:从理解世界到改造世界,加速工业物理AI商业化

    AI的下一站,是物理世界。黄仁勋曾说,AI的下一个浪潮是物理AI。“AI教母”李飞飞发长文判断“空间智能是AI的下一个前沿”。站在AI最前线的人都相信,大模型不能只停留在屏幕里理解世界,得进入物理世界,动手改造世界。从街道上的车流,到车间的产线,哪里才是物理AI率先兑现商业价值的地方?工业。工厂环境

  • 分区、平嵌、节能精准满足欧洲,海尔AI洗护方案1-8月持续领跑

    欧洲是滚筒洗衣机的发源地,也是全球市场的桥头堡。在当地,一台光能洗净的洗衣机不再是“加分项”,而仅仅是市场的“入场券”。面对家庭结构、市场环境的变化,如今在欧洲,什么洗衣机卖得好?据GfK中怡康数据显示,2026年1-8月欧洲市场,海尔洗衣机份额达15.8%,位居中企第一,销量销额均实现增长。在细分

  • 同样是录音转写,豆包工作顺手帮我把稿子写完了!

    做媒体这些年,采访是我最头疼的事情。采访本身要花时间,采访完还要去整理采访素材,更别说后面还要写稿——这里要花费的时间和精力,往往是采访工作的双倍,甚至更多。虽说现在市面上的录音软件、录音设备很普遍,但是实际用下来都不尽如人意。录音素材导出导入、录音转写、内容整理、提炼重点、内容创作等每一道环节都很

  • 科技兴商来了,具身智能即将进入估值换锚时刻

    具身智能商业化落地的东风来了。先是海外OpenAI宣布入局具身智能行业,然后国内,商务部等9部门对外公布《关于加快推进科技兴商的意见》。其中明确提出,要“丰富智能手机、电脑、家居、穿戴设备、机器人等智能商品供给”。言下之意,接下来“机器人”与手机、电脑并列,归类为面向消费市场的商品。市场端很快就有了

  • AI手机不缺AI,缺的是一个能接管手机的Agent

    100天不长不短,阶跃星辰董事长印奇许下的百日之约,终于兑现了。简单回顾下,3个月前,阶跃一口气发布了大模型原生AI终端品牌STEPX首个智能体原生操作系统StepAOS、个人智能体阶跃Amoo、亮相了自主研发的首台智能体手机。10月13日,STEPXNeo终于拖家带口正式发布。用很多人的话来形容,

  • 营收两年增长近10倍,九章云极已走到智算新云赚钱门口

    过去两年,全球AI基础设施市场形成了一条被美股财报反复强化的隐含假设:做NeoCloud、做智算新云,就要先接受“收入高增、净利润深亏”。CoreWeave2026年二季度收入25.75亿美元、同比翻倍,但GAAP净亏损仍达6.26亿美元;Nebius同期收入5.82亿美元、同比增454%,调整后E

  • 排名之外,AI公司真正要交什么成绩单?

    2026年,港股AI公司明显多了起来。港交所披露,2025年12月初至2026年5月底,AI价值链企业IPO募资达到979亿港元,约占同期港股新股募资总额的55%。从大模型、算力芯片,到企业软件、医疗科技,越来越多AI公司开始进入港股视野。一个市场要获得重新定价,首先需要新的优质资产。过去市场谈港股

  • AI时代的消费投资机会:品牌穿越周期要控制买量、回归货架

    文/庄帅9月22日,北大国发院在《AI时代下的品牌创业创新》CBI消费公开课上,披露了最新的CBI品牌指数(中国线上消费品牌指数),为当前AI与硬科技主导的投资方向提供了一个新坐标:消费投资永不过时,只是参照系和评估指标有了一些新变化。课题组最新研究发现,在同一行业中,CBI品牌指数越高、榜单表现越

热门排行

编辑推荐