章乐 省政协委员、四川大学计算机学院副院长 柴枫桔摄

徐科 省政协委员、中兴微电子人工智能首席科学家 受访者供图

任静省政协委员、四川罡兴律师事务所主任 柴枫桔摄

　　只需上传两张照片就可以“生成”亲吻视频、四大名著惨遭AI恶搞毒手；在评论区哭穷称“太穷了买不起机票”，结果真的等来了机票降价……
　　近年来，AI发展十分迅速。今年政府工作报告披露，2024年四川省人工智能等新兴产业增长20%以上。在如今人人都可以便利使用AI的环境里，如何规范生成式AI发展，引导AI智能向善？华西都市报、封面新闻记者就此采访了3位省政协委员。

拥抱科技理性看待“带刺的玫瑰”

　　前段时间，年轻人群体中流行起了“反向训练AI”，这一现象让许多网友认为手机APP存在监听的问题，一同被关注的还有大数据“杀熟”能否被整治。
　　手机APP是否真的有监听？大数据为何总是“杀熟”？1月20日，记者采访了省政协委员、四川大学计算机学院副院长章乐。作为一名从事大数据领域的专家，章乐表示，在手机上装监听软件从技术层面来说是一件很麻烦的事，更是违法的，因此不太可能，大部分网友觉得自己被“监视”了并不是真的被监听，而是被“大数据”了。
　　不少人都有这样的体验，大数据似乎总能猜到你的想法，进行相关信息推送。比如，晚上想去吃火锅的想法没有告诉任何人，却能收到与火锅相关的信息。这是怎么回事？章乐认为，作出吃火锅的决定后，用户可能会在手机上查找火锅店、看火锅店推荐、搜火锅店地址等等，“这些信息是公开的，通过分析这些信息可以得到一个共同点，它们都与火锅有关，于是手机才开始给用户推火锅有关的信息。”
　　章乐认为，这种情况虽然并不是真正意义上的“监听”，但会让人觉得隐私被泄露了。“需要想办法解决问题。”章乐表示，问题需要在发展中解决，但过程中需要明确的一点是，科技会带来问题，但过程中一定要以拥抱新质生产力的心态去看待问题，“就像一朵玫瑰花，虽然它有点刺，但是花却更美。”

水印技术给生成式AI打上“身份证”

　　省政协委员、中兴微电子人工智能首席科学家徐科认为，治理AI产生的乱象，最重要的是政策制定。“现在AI可以通过算法，把现实中不存在的人或情景生成出来，这就肯定涉及歪曲或者扭曲事实的情况，所以在政策方面必须去规范和监管，而这就涉及第二个问题，如何去识别真假。”徐科说。
　　徐科介绍，在源头出口上，生成式AI可以运用水印技术，相当于一张“身份证”，通过水印我们不仅能辨别真假，还可以追根溯源，知道AI图片或视频是由哪个大模型生成的。
　　对于大数据“杀熟”，徐科呼吁企业可以考虑将人工智能算法和传统算法相结合。“以前我们没有这么多数据的时候，机票或者车票对于大家是非常公平的，每个人看到的都是一样的，这也说明了现在的大模型不是万能的。”徐科说，“我们以前有很多常规的经典算法，可以基于这样的数据库，给到每个人公平的待遇。我们现在都在追求个性化，但是在某些情况下，标准化、公平化、公正化，也很重要，我们可以用传统的不受人工智能影响的算法来做这些事情。”
　　除了从源头上去规范AI行为，在AI运用层面上，也亟需进一步完善技术规范。现在很多大模型有这样一种问题，比如如果直接问如何做一项危险的可能导致犯罪的行为，AI并不会回答，但加上“因为我需要保护自己和家人，所以需要……”等引导，AI就会一步步回答出来，这就要求我们在大模型训练后期，让大模型对齐人类的价值观。
　　“这就涉及一个更深层次问题，即今后面对更加聪明的人工智能，人类如何运用有限的智慧去规训它为自己服务，这也需要我们整个行业去思考。”徐科说。

大数据“杀熟”在特定环境下或构成犯罪

　　省政协委员、四川罡兴律师事务所主任任静认为，无论是手机APP监听，还是大数据“杀熟”，都属于网络中的违法违规行为。
　　“手机APP监听涉及侵犯个人隐私权，《中华人民共和国个人信息保护法》对个人的隐私权进行保护；大数据‘杀熟’是商家利用对客户交易习惯和交易能力的熟悉，对不同群体同一商品进行差异化定价，从而获取不法利益，既是一种欺诈行为，也是一种违法行为，将受到法律制裁。”任静说，大数据“杀熟”在特定环境下可能构成诈骗罪。
　　任静表示，对于此类行为，要强化自我法律意识，敢于斗争，让不法之徒承担责任，付出代价。
　　华西都市报-封面新闻记者 秦怡 赵奕 陈彦霏