1. 创业头条
  2. 前沿领域
  3. AI智能
  4. 正文

AI是把双刃剑,关键在于我们想要它成为什么样?

 2018-08-17 09:20  来源:A5专栏  我来投稿 撤稿纠错

  一键部署OpenClaw

文/陈剑锋

相信很多人幻想过与《我的机器人女友》中男主与机器人女友共患难、相濡以沫、恩爱到永远的剧情。不过这种烧脑的剧情在现实看来终究也只能发生在影视剧中,回归现实生活,无论是情感还是纲常伦理,大众潜意识里仍旧无法接受这种狗血的关系。

不过AI的迅速崛起或许让我们相信这种原本烧脑的剧情总有一天会发生,毕竟人类已经诞生了第一个获得合法公民身份的机器人“索菲亚”,这搁在20年前是绝对会是很扯淡的事情。

人工智能正在给我们的生活带来便捷与高效,“刷脸”进站、“刷脸”支付、“刷脸”签到、“刷脸”登记......人脸识别正在让我们告别传统繁琐的流程和手续而变得更加智能化。但另一方面我们要清楚的是人工智能在给我们带来这些便捷和高效的同时,其变相所产生对我们的危害也是不能忽视的。

AI是把双刃剑,关键在于我们想要它成为什么样?

人工智能是建立在大量数据深度学习的基础上才得以发挥其巨大价值的,也就是说AI以什么样的形态和价值展现在我们面前,完全取决于其吸收了数据的量和质来决定的,比如是像电影《宝莱坞机器人之恋》中的杀人狂魔,还是像电影《我的机器人女友》中的与人善良。

人工智能的持续进步和广泛应用带来的好处是巨大的,我们不能否认AI的能力和其创造的价值,而为了让它真正有益于社会,同样我们不能忽视对人工智能的价值引导、伦理调节以及风险规制。

数据的处理、分析、应用很多都是由算法来实现的,越来越多的决策正被算法所取代。而算法决策更多的情况下是用过去的数据来预测未来的趋势,算法的模型和数据输入决定着预测的结果。也就是说如果丢给机器的样本是良性的那么它最后肯定是善的;而如果丢给机器人是恶性的那么它最后也肯定是恶的。

诸如曾经的微软人工智能聊天机器人Tay上线,在与网民互动过程中,很短时间内就“误入歧途”,集性别歧视、种族歧视于一身,最终微软不得不让它“下岗”。在举一个不确切的例子,互联网服务商通过数据采集和机器学习来对用户的特征、偏好等“画像”进而提供一些个性化的服务和推荐等,表面上来看有利于供需双方的一种互动,但实际上这对于消费者来说是不平等的。因为数据实际上成为被企业垄断的资源,又是驱动经济的要素。如果商家只从自身利益出发,就难免会对个人数据过度使用或者不恰当披露。

AI本身是无用的,关键在于人类赋予其生命

从某种意义来说,AI本身是无用的,关键是人类赋予其生命,才让其有了更大的价值体现,简单来说AI就是一种工具,只不过是我们硬要去赋予它我们认为它应该有的能力和作用,其实没有任何意识可言的。

譬如日前李开复在时隔26年重返TED演讲台中讲到:“爱使我们有别于人工智能。无论科幻电影是如何描述的,我可以负责任地告诉各位,人工智能程序没有爱的能力。阿法狗或许能在围棋比赛中击败世界冠军,但它无法从胜利中感受到喜悦,也不会在胜利后产生拥抱心所爱之人的渴望。”与人工智能相比,人类胜在有创造力和同情心。

如果真正哪一天人工智能有了思维意识和创新能力,毋庸置疑一定是人类的灾难。AI的如何发展即未来AI是协助我们完成重复性工作,让我们释放双手从事更多的创造性工作,还是把AI推向我们的对立面,很大一部分原因取决于我们想要AI成为什么样的。

其实AI在现如今我们还没有相关的规则和底线去限制的,这也主要取决于现阶段对AI还无法真正的了解和掌控,虽然现在在AI上人类有了众多惊艳的项目和奇迹,但对于AI真正的空间来说仍然是底层阶段,所以这也是导致AI威胁论传播的关键。

尽管如此,如果我们能够在基础的伦理、价值观、法律、道德上对AI形成一个初步的引导,也不失为一种很好的策略。比如构建算法治理的内外部约束机制,将人类社会的法律、道德等规范和价值嵌入人工智能系统;在人工智能研发中贯彻伦理原则,促使研发人员遵守基本的伦理准则;对算法进行必要的监管,提升算法自身的代码透明性和算法决策的透明性;针对算法决策和歧视以及造成的人身财产损害,提供法律救济。

【陈剑锋,科技自媒体人,长期关注AI和IoT等前沿科技,微信公众号:剑锋撩科技(cjftmt)】

申请创业报道,分享创业好点子。点击此处,共同探讨创业新机遇!

相关标签
ai技术
ai智能

相关文章

  • 瓯江论道:AI赋能绿色发展

    2025年10月25日,2025世界青年科学家峰会之人工智能(AI)融合创新发展论坛在浙江温州成功举办。本次论坛由国际院士科创中心主办,中国投资协会能源投资专业委员会、温港院士科创中心承办,中国电工技术学会、中科先进技术温州研究院与温州市电力工程学会提供支持,以“瓯江论道-AI赋能绿色发展”为主题,

    标签:
    ai技术
  • 王通:未来个人创业的十个机会

    个人创业需要启动成本低、无需庞大团队、可快速验证、能利用个人技能或资源。这里分享适合个人创业的十个机会一.AI内容优化与本地化服务·做什么:帮助企业或个人利用AI工具(如GPT-4,Midjourney)优化内容生产流程。例如,为跨境电商撰写多语言产品描述,为小红书博主生成爆款文案,为小公司制作营销

  • Figma股价热情仅存1天,AI焦虑成关键隐忧?

    文/道哥美国设计软件公司Figma近期在纽约证券交易所挂牌上市,首日即上演“狂飙”行情——发行价定每股33美元,开盘报价85美元,较发行价翻倍。首日收报115.50美元,较发行价大涨约250%,市值飙升至近670亿美元,创下近30年来同等规模美股IPO的最大单日涨幅纪录。然而,随着短线资金获利了结,

    标签:
    ai智能
  • AI「带飞」腾讯业绩

    文/一灯来源/节点财经在当前无人敢缺席的AI军备竞赛中,巨头们一面为巨额的资本支出焦虑,一面又向市场勾勒着未来的宏伟蓝图。在各家动辄千亿级投入的背景下,市场迫切需要一份关于AI回报价值的有力证明。而腾讯,率先给出了答卷。8月13日,腾讯控股发布2025年第二季度财报。尽管资本开支同比剧增119%,达

    标签:
    ai智能
    腾讯
  • Meta用亿元薪酬发起「人才狙击」能否买来一个AI未来?

    文/二风来源/节点财经2025年的硅谷,一场没有硝烟的战争正以前所未有的烈度上演。这场战争的核心武器不是代码或芯片,而是人——那些全球仅有数千名、能够构建未来人工智能基础模型的顶尖大脑。在这场激烈的人才争夺战中,Meta及其首席执行官马克·扎克伯格(MarkZuckerberg)正扮演着最具侵略性的

    标签:
    ai智能
  • AI会画视频了,但为什么还需要“会剪片子”的大脑?

    2026年还剩不到两个月,短剧已经火到不讲道理了。《持械入宋》10季1000集,全网播放量干到66亿,一个“草台班子”用AI做出来的片子,被六神磊磊调侃“看个短剧跟要考研一样”。另一部短剧《十八岁太奶奶4》预约破千万,上线直接登顶红果三榜,全网话题量破10亿。红果短剧的用户量也超过了豆包,看短剧的人

  • 黄仁勋和“平头哥”,都在等一个厉娜!

    “我是被宣判的人,我能去哪儿啊,我画地为牢,厉娜!”这是最近一部综艺里爆火出圈的台词,感觉挺适合拿来点评国内外AI科技圈正在发生的两件大事:一个是英伟达黄仁勋那档子事儿;一个是刚刚由阿里宣布,拟分拆全资芯片子公司平头哥在香港联交所主板独立上市的消息。按公告所言,早在两个月前的9月11日,平头哥就已经

  • GCSA 洞察:某头部智能机器人厂商产品存在严重安全风险,真机验证系统级权限失陷

    GCSA安全团队在针对某头部机器人厂商产品的安全研究中,发现并验证了一项严重安全漏洞。随着人工智能与具身智能技术加速发展,机器人正从传统自动化设备演进为具备感知、决策与自主行动能力的智能终端。与此同时,网络安全风险也正从软件与数据层面延伸至真实物理环境。机器人系统的安全性,不仅关系到数据与设备本身,

    标签:
    网络安全
  • 办公AI的分水岭,Team Agent正在打通团队协作链路

    让Agent以团队成员身份扎根在真实群聊、文档场景里,当一个个信息孤岛被连通,企业才有可能跨过“个人提效”到“组织提效”的鸿沟。日常办公,项目协作常常散落于多个群聊、文档与纪要,信息断层往往直接变成项目灾难。过去两年,办公AI在个人提效上已经跑通,写邮件、做PPT、整理纪要都能交给AI完成。但行业里

    标签:
    ai智能
    ai办公
  • 在豆包提问时,答案里的视频卡片是什么

    一、您看到的视频卡片是什么当您在豆包上问“怎么安装、怎么选型、怎么排查故障”这类问题时,答案里会出现一张可以直接点击播放的视频卡片;而问价格、概念类问题时,通常只有文字。它不是广告,而是AI判断“这个问题看视频更清楚”后,为您自动选取的内容。以豆包为例,视频主要来自抖音、西瓜视频、今日头条等字节生态

  • 智元给物理AI定“度量衡”:Worken会是下一个DAA吗?

    “你要来几个‘智元’的?”“我要三个‘智元’的,但不要XX机器人,只要智元的啊。”“没问题!”这段对话看起来是不是有点莫名其妙?但它在未来却有可能成为人们采买机器人时的惯用开场白。为啥?一切都源于智元联合创始人、总裁兼CTO彭志辉在2026智元创新日上提出的一个新概念:Worken(有效智能工时)—

  • 往年囤好物,今年囤算力:火爆Token走进大众消费

    一个原本只属于工程师的名词,上了中国最具大众性的电商货架,中国最具大众性的直播间,被普通人加进购物车,本身就是加速走向大众消费的信号。智谱周卡5折、MiniMax月卡全场5折、Qoder专业版3折、千问办公月卡3.3折……11月11日,双11大促——中国最大的购物盛会和消费晴雨表正式迎来18岁“成年

  • 物理AI训练数据一年翻近10倍,从演示走向量产的关键卡点是"喂饱它"

    今天央视财经报道了一组能标记行业节奏的数字:物理AI头部客户的训练数据需求,从去年十万小时级跳到了今年百万小时级,增幅接近10倍。这里的"小时"不是图文数据,而是机器人在真实环境里跑动、抓取、碰撞、避障的连续记录。数据从哪来?仿真合成加上人类视频,两条路同时在补。宇树科技创始人王兴兴在进博会期间给出

    标签:
    物理AI
  • Claude Fable5.2登场,Anthropic把智能体协作推到了操作系统级别

    11月9日,Anthropic正式发布ClaudeFable5.2和ClaudeMythos5.2两款新模型。Fable面向普通用户,内置网络安全与生物安全防护;Mythos则只向通过审核的专业机构开放,处理高风险场景。两款基于同一底层架构,区别在于安全边界和应用准入。官方还展示了一组由千个智能体协

  • 2027,AI办公一场大战,一触即发

    11月9日,阿里千问办公2.0正式发布。这次升级有一个值得关注的变化:它不再只是服务个人的AI助手,而是开始支持多人和Agent共同协作,可以把AI直接拉进工作群,让它参与团队任务。就在几天前,11月6日,华为小艺Work正式版上线鸿蒙电脑应用商店。10月30日,腾讯WorkBuddy企业版宣布四项

热门排行

编辑推荐