古镇 切换城市

请选择您所在的城市:

    热门
    城市

    灯都头条

    发布投稿
    客服热线400-6083-335

    科技向善 别让AI技术沦为违法帮凶

    200-01-01

    阅读:0

    评论:0

    举报

    [摘要] 有人借AI编造“带货躺赚”的骗局,收割电商创业人群;有人利用GEO“数据投毒”,操控AI输出误导公众;有人用AI外呼系统电话骚扰,试图绕开监管,逃避法律责任……在3·15之际,总台等多家媒体曝光利用AI技术欺诈造假、违法违规的典型案例,再次为公众使用AI技术敲响警钟。 “收割”“投毒”——上述案例中的违

    有人借AI编造“带货躺赚”的骗局,收割电商创业人群;有人利用GEO“数据投毒”,操控AI输出误导公众;有人用AI外呼系统电话骚扰,试图绕开监管,逃避法律责任……在3·15之际,总台等多家媒体曝光利用AI技术欺诈造假、违法违规的典型案例,再次为公众使用AI技术敲响警钟。

    “收割”“投毒”——上述案例中的违法者肆无忌惮。他们均是利用公众信任却不甚了解AI技术的信息差,把AI技术异化为违法工具和犯罪帮凶,损害消费者合法权益,其违法成本低、手法更隐蔽,监管取证难度大,影响范围更广。以总台3·15晚会曝光的“数据投毒给AI洗脑”为例,GEO(Generative  Engine  Optimization,即“生成引擎优化”),本是通过优化网络内容以提高其在AI大模型推荐展示几率的技术手段,而今却被别有用心者变成了敛财诈骗的工具:一面生成虚假信息,一面恶意投喂训练大模型,甚至故意造假抹黑对手。这不仅涉嫌虚假宣传、误导消费者,更扰乱正常市场秩序,损害数字产业健康发展,透支公众对AI技术的信任。

    据总台3·15晚会曝光,某GEO优化系统软件将一款并不存在的智能手环产品,实现AI大模型抓取推荐

    从前几年用AI换脸、变声实施诈骗,到所谓“养老伴侣机器人”等新型骗局,人工智能技术快速迭代的同时,各类风险套路也层出不穷、防不胜防。技术本是中性工具,关键在于使用者必须心存敬畏、守住底线。

    当前,人工智能大模型等新技术新应用正深度重塑我们的生产和生活方式,规范治理能力必须同步跟上,以有效防范技术滥用带来的风险危害。譬如,政府监管部门和行业协会要及时出台规范措施,将《人工智能生成合成内容标识办法》《生成式人工智能服务管理暂行办法》相关规定落实落细,要用“道高一丈”的技术治理管住“魔高一尺”的违规乱象;平台、企业和从业者要坚守法律与道德底线,摒弃投机取巧心态;对广大用户来说,则要破除“躺赚”幻想,理性辨别信息、多方交叉核实。

    技术只有向善向上,才有未来。AI终究是辅助工具,商业的本质离不开过硬的产品和真诚的服务。靠信息差收割焦虑、靠虚假内容污染数据,或许能得逞一时,但终将付出法律与信誉的双重代价。(央广网评论员  姜葳)


    人已打赏

        ×

        打赏支持

        打赏金额 ¥
        • 1元
        • 2元
        • 5元
        • 10元
        • 20元
        • 50元

        选择支付方式:

        打赏记录
        ×

        精彩评论文明上网理性发言,请遵守评论服务协议

        共0条评论
        加载更多

        打赏成功!

        感谢您的支持~

        打赏支持 喜欢就打赏支持一下小编吧~

        打赏金额¥{{ds_num}}
        打赏最多不超过100元,打赏须知

        收银台

        订单总价¥0.00

        剩余支付时间:000000

        手机扫码支付

        使用支付宝、微信扫码支付

        其他支付方式