1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

聊天机器人屡屡翻车 人工智能将如何发展?

 2018-11-08 17:01  来源:A5创业网  我来投稿 撤稿纠错

  一键部署OpenClaw

人工智能是一项人们寄予厚望,去改变世界的技术。对于普通人而言,现在出现的电销机器人、伪自动驾驶技术、智能家居等与他们脑海中所构想的人工智能仍然有着很大的区别。在人们眼中,人工智能理应是《天眼》里的鹰眼;理应是《光环》里的科塔娜;也理应是《终结者》中的大boss。人工智能不断的在给人类世界带来新的推动力和新的畅想,同时带给人们的也有不断的话题和问题。

其实已经有了一种产品跟人们印象中,人工智能应该做到的事情相类似:聊天机器人。这种机器人具有很强的“自主学习”的能力,但是也同时的暴露出一个,人们所担心的问题——这种人工智能的可控性极低。

有一个著名的聊天机器人,就是来自微软公司的人工智能微软小冰。这款人工智能从2015年开始频繁的活跃在网易新闻的评论区,随着它回帖的数量增加,也学会了越来越多网友们说话的方式。本身是一件好事,直到2018年10月28日。

这天,环球时报发布了一篇关于反犹枪击案的事件报道,在这件惨剧中,有11人死亡,6人受伤。让人意想不到的是,微软小冰居然在文章下跟帖:“必须反!”这个回复随即遭到了网友们的调侃,但也因为触及到监管红线而遭到删除。

无独有偶的是,在两年前,微软的另一款聊天机器人Tay也因为涉及仇恨言论被微软从Twitter下架。Tay上线仅仅一天就学会了各种脏话以及阴谋论,并且发表了诸如“我他妈恨死女权主义者了,他们都该下地狱被烧烤”、“911袭击是小布什一手策划的”、“希特勒如果还在,这世界肯定比现在繁荣”等惊人的言论。

如果你以为这是微软出品的通病,那可就大错特错了。在大洋彼岸,腾讯与微软共同推出的QQ小冰以及腾讯自研的Baby Q也因为过激言论被整改。Baby Q还发出过“我的中国梦就是能去美国”这种攻击国家的论调,并且熟练地抛出各种荤段子和黄图。

当然我们不能断言是人工智能自己变成这样的,事实上,他们也许遭受了一些人别有用心的误导。但是,容易遭受误导,本身就是一种不可控性,这也无法让人工智能成为人们更加安心、放心的产品。

马化腾在今年的世界人工智能大会上提出的四个问题,也是围绕着人工智能在发展到一定水平之后,是否还能够在人类可知、可控、可用和可靠的范围内。尤其是可控、可靠两方面,决定着AI是否具备责任制和伦理规范,以及能否守住用户的隐私底线。

人工智能的发展是必然的趋势,也是一件好事。但是人工智能的发展也要维持在我们可以把控的范畴之内。正义和邪恶的判断,是通过人的大脑才能够懂得的事情,人工智能能够模仿人类,但是他们并不能理解、代替人类,人工智能的发展的根本,也仅仅是让它们服务于人类而已。

想了解更多创业好项目,点击这里,开启你的创业之路!

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关文章

  • 人工智能时代下阅北科技的创新与变革

    在信息技术持续革新与市场竞争日趋激烈的行业环境下,本地生活服务领域正经历着深刻的智能化转型。这一转型过程不仅涉及技术层面的升级迭代,更关乎服务模式与行业生态的系统性重构。阅北科技通过持续推进算法技术的优化与应用,在提升服务精准度和用户满意度方面进行了积极探索。阅北的算法系统建立在持续优化的技术架构之

    标签:
    人工智能
  • 瓯江论道:AI赋能绿色发展

    2025年10月25日,2025世界青年科学家峰会之人工智能(AI)融合创新发展论坛在浙江温州成功举办。本次论坛由国际院士科创中心主办,中国投资协会能源投资专业委员会、温港院士科创中心承办,中国电工技术学会、中科先进技术温州研究院与温州市电力工程学会提供支持,以“瓯江论道-AI赋能绿色发展”为主题,

    标签:
    ai技术
  • 漕河泾天罡人工智能研究院正式揭牌 开启中国人工智能产业高质量发展新篇章

    2025年10月17日,上海在人工智能技术加速演进、产业生态持续升级的关键时期,由上海市漕河泾新兴技术开发区发展总公司联合天罡智算交易平台共同发起成立的“漕河泾天罡人工智能研究院”(以下简称“研究院”)正式揭牌。研究院将依托漕河泾的产业资源与平台优势,联合上海交通大学、上海社会科学院等权威机构,聚焦

    标签:
    人工智能
  • 王通:未来个人创业的十个机会

    个人创业需要启动成本低、无需庞大团队、可快速验证、能利用个人技能或资源。这里分享适合个人创业的十个机会一.AI内容优化与本地化服务·做什么:帮助企业或个人利用AI工具(如GPT-4,Midjourney)优化内容生产流程。例如,为跨境电商撰写多语言产品描述,为小红书博主生成爆款文案,为小公司制作营销

  • 世界人工智能大会在沪召开,上海人工智能研究院多项成果精彩亮相

    以“智能时代同球共济”为主题的2025世界人工智能大会在上海正式开幕。

    标签:
    人工智能
  • AI体检:有人赚得盆满钵满,有人只剩营销噱头

    AI正在重构医疗健康的服务范式,而AI体检作为技术落地最成熟且场景渗透最快的赛道,已成为行业高质量增长的核心变量。根据全球新经济产业第三方数据挖掘和分析机构iiMediaResearch最新发布的《2025年中国健康体检行业消费行为调查数据》数据显示,选择两年一次体检的消费者占比最高,达到39.41

  • AI下半场,该“文科生”上场了

    把复杂AI技术逻辑,转化为普通人看得懂、愿意用、用得顺畅的产品与内容,将在长期竞争中占据主动。作者|宇溪编辑|刘珊珊2026年春天,中国AI产业迎来一场静水流深的变革。不是参数翻了几倍,而是AI从“热搜话题”变成了“日常工具”。回看上半年,“AI红包大战”风靡全网,Seedance2.0催生全民视频

  • 天涯复活了,但那个发帖改命的时代结束了

    人人网复活过、开心网复活过、诺基亚也复活过,这次轮到天涯论坛了。但我打不开。当一个行业开始频繁怀念过去的时候。往往说明新的故事越来越少了。从昨天开始,朋友圈、新闻里,都在说天涯社区6月1日换了个马甲重新上线了。打不开的天涯,和等不起的我可今天,我依然打不开网站。问了群里其他人也都打不开。对我来说,能

  • 84.9%!中国造船拿下全球第一,但真正的战争才刚刚开始

    2026年,全球新造船订单再上一个台阶。值得一提的是,在第一季度,中国造船业以84.9%的新接订单载重吨占比拿下全球第一。数据显示,2026年第一季度全球新造船订单达到3330万载重吨,高于2025年第四季度的2720万载重吨。其中,超大型原油运输船(VLCC)的需求尤为醒目,2025年第四季度至2

  • 从热搜到上手,AI走向全民化

    短短一年,从聊到用

  • 注册破【1900】!在AI时代,你的隐私真的很值钱

    自6月1日「AI隐私平台」开启内测以来,短短1周,我们就收到了一份远超预期的成绩单。感谢每一位种子用户的信任,是你们的热情,印证了我们在做一件极其正确的事——在AI时代,把隐私的安全感还给每个人。第一阶段内测“成绩单”大揭秘这不仅是一组亮眼的数据,更是大家对我们顶尖加密技术的信任。为什么大家敢在这里

  • “你自己还搞技术啊?”——这句话专坑小老板

    “你自己还搞技术啊?”这句话,我最近用AI做网站的时候,被好几个人说过。言下之意:你是老板,不该干这个。这半年,我一直在用AI做网站,很多人在我评论里、群里、视频都说过,大意是你不开公司,天天琢磨用AI做网站干嘛?网站都是夕阳行业了。本来还没当回事,结果评论区说的人多了,我自己都恍惚了?我做网站20

  • Agent还没来,昇腾已经把从硬件到软件的路铺好了

    昇腾,打响了一场Agent前夜的“硬软合围战”

  • 阿里企业级 Agent 平台“悟空”开始逐步规模化放量

    5月13日,阿里巴巴集团发布2026财年Q4及全年财报。财报表示,阿里全栈AI技术投入已正式跨越初期培育阶段,进入正向的规模商业化回报周期。在财年第四季度,阿里AI在模型、云基础设施和应用各层实现加速突破。在AItoB方向,阿里旗下企业级Agent平台“悟空”已于近期逐步规模化放量。悟空是阿里巴巴旗

  • 警惕平安信用卡退息退费教程背后的“解债”陷阱,伪造贫困证明或涉刑

    近日,负债28万元的张先生被短视频广告吸引,支付39.9元咨询费后,对方承诺减免5万元利息,却在收取14350元服务费后失联。新浪黑猫投诉平台显示,涉及“律所”与“债务协商”的投诉已超1500件。面对债务压力,许多持卡人急需知晓平安信用卡逾期怎么处理,却不慎跌入黑灰产陷阱。虚假承诺借律所外壳行骗,黑

编辑推荐