第1160章 ai无法做到人类的不理性

    “陈总，第三次迭代的超级小星智驾目前已经全量推送。”
    “昨天那个视频，现在还在热搜上面挂着呢。”
    车教授和成文飞一起来这边和陈尘汇报工作进度的时候，闲话正好说起了昨天的撞狗视频。
    “什么视频？”
    陈尘还真没怎么关注这些，以前没事还刷刷抖音，在评论区回一下网友的评论，这会航天事业一开始，那是真的忙。
    地面能量传输系统验证成功，需要申请和计划。
    可控核聚变的进度这个需要陈尘亲自跟进，其他人对接这项工程，相关部门根本不认，他们只认两个人，一个是陈尘，一个是冯天齐。
    还有冯天齐的另一个项目，也是让陈某人头大。
    这踏上太空后，摊子是越铺越大，事情越来越多。
    “陈总，是这个，咱们的h20高速撞狗，系统识别出了狗，但没有进行避让和刹车。”同时来找陈尘的扬拓，将视频递给陈某人看。
    “这好像没啥问题吧？怎么还能上热搜？我说今天早上为啥老卢说订单又猛增一波。”
    “其实昨天这个视频热度刚起来的时候我们就想去做公关，但不知道是哪家给我们买了热搜，然后网友的评论也是一边倒，最后我们就观察着，没有进行处理。”扬拓回答道。
    “哈哈，估计谁都没想到我们超级小星第三次大版本升级，会有这样的效果，小星根据当前场景自行做出最优决断。”
    “毕竟现在的超级小星已经完全升级了187977次，大的进化迭代也有4000多次，可以说当前世界上，没有比我们小星更加聪明的人工智能。”
    “我们现在对他的开发完全不足10%。”
    成文飞说完，陈尘办公室里的所有人全部望向他，就连陈尘也腾的一下站起身来，“已经进化这么多次了吗？”
    成文飞朝陈尘摆手，示意他不要紧张，“陈总，准确的来说，在上一分钟，超级小星已经升级了187978次，进化4235次。”
    “但一切都在可控范围内，不用紧张，无非就是小星在不断给自己写代码。”
    “终归揭底他还是一串串代码形成的数据流，而且最近几个月他的进化和迭代也开始放慢速度，我们要做的不是惧怕，而是该怎么好好的利用他。”
    “就像在汽车上面一样。”
    “就像这样吗？”陈尘将一条十分钟前刚刚拍摄的视频，全部投影到成文飞和车教授手机上面。
    视频里一台h20，从尾翼看应该是max版本，停在了一个正在有学生上学的幼儿园前，后面则是紧追不舍的几个交警。
    从车辆飞快的开到这个幼儿园门前开始，到车主被交警破窗控制结束，只有短短40多秒的时长。
    “这是？”几人看完后都抬起头看向陈尘。
    “我来解释一下吧。”苏飞鹏对着几人解释道：“宿醉，酒驾被执勤的交警发现，车主驾车逃离，驾驶员逃跑过程中剐蹭数十台车，直到在这个幼儿园门前的时候，车主停车，被交警破窗控制。”
    “驾驶员停车不是因为他良心发现，而是我们的系统切断了动力输出，在被交警破窗的时候，车辆油门还在被他死死踩着。”
    苏飞鹏说完，除了成文飞在笑，扬拓和车教授都露出不可思议的表情。
    “这这，这，这就是超级小星吗？”
    “没错，这就是新一代的超级小星，一个只会根据当前场景做出最优解，不会受任何干扰的超级系统。”
    陈尘这会也是大受震撼，一个不可思议的想法出现在他的脑海中。
    难道……
    “可是这样的系统，如果他做出的不是最优解呢？好像智能程序也做不出最优解。”扬拓做公关和营销，想的比成文飞也更多一些。
    这样的车子，车主买回去，但在紧急情况下，哪怕没开智驾，最终的控制权也不在自己手中，他们会怎么想？
    他们会怎么看？
    这绝对是一个很大的问题。
    现在这样的事情才发生两件，那以后发生的更多呢？
    消费者和车主们肯定会想，我花几十万买了一台车，结果某些情况下的控制权还不在我手中？
    “不不不，扬总，这不是问题，这则指令的最底层逻辑是为了防止恶性事故的发生，同时也为了避免一些车主操作不当产生的事故。”
    “那如果，我是说如果，车主在遇到一个场景，要么撞死别人，自己能活，要么避让，自己可能会有危险，我们的超级小星底层逻辑是不是肯定会选择保护车主？”扬拓再次问道。
    成文飞和车教授二人都想了一会，然后同时点头，扬拓说的没错，在小星自主判断的时候，保护车主确实是他的第一逻辑和判断目标。
    “我们做不到十全十美，也无法赋予小星人类的感性，我们所能做的，就是尽可能的避免一些事故的发生，尽可能的去保护驾驶员。”
    “那么我再举一个例子，一位父亲驾车，副驾驶是他的女儿，面对紧急情况人类的下意识行为是保护自己，但是这样就会伤害到副驾驶，作为一个父亲，他的情感可能会超越他的下意识，那么超级小星的行为保护驾驶员，这样让一个父亲下半生都陷入到痛苦之中，那这还是最优判断吗？？”
    扬拓的一连串问题，让成文飞的脸上露出痛苦的神色，他仿佛想起了20多年前的那场事故。
    如果副驾驶坐的是小爱，那么他作为一个父亲肯定会选择保护女儿。
    但这和ai的判断是不同的。
    如果因为ai的介入，导致保护了自己，让原本可以抢救回来的女儿没有抢救回来，那么这个ai真的是自己想要的吗？
    “ai没有人类的情感，或者说在一定的条件下，他做不出人类这样不理性的判断，所以成教授，车教授，这样的升级请务必和我们公关部门进行沟通。”
    “不然真的出现我所说的事故，我们真的会很难办。”
    痛苦的神情在成文飞的脸上蔓延，他知道扬拓的问题应该怎么回答，却说不出口，他也知道这样的ai或许真的可以避免一些事故的发生。
    但人类的不理性，人类的情感，或许现阶段的ai真的没办法做到。
    不，可以做到！
    一定可以做到的。
    良久。
    “我会和车教授对接的，或许在一些情况下，驾驶员的权重要优于系统。”
    听到这句话，陈尘和扬拓都松了一口气，他们是真的担心成教授固执己见，如果真的是那样，陈尘也只能说将这个版本的小星进行阉割。
    “这件事咱们下次会开一个专门的会议讨论，现在还是先说一说我们p系列的方案吧。”