人工智能治理如何在收获回报的同时减少风险
发布时间：2021-06-10 13:46:54 所属栏目：大数据 来源：互联网
导读：人工智能治理涉及企业内的许多功能和领域，其中包括数据隐私、算法偏见、合规性、道德等方面。因此，企业解决使用人工智能技术的治理问题需要在许多层面上采取行动。 塔塔咨询服务公司数据和分析业务负责人Kamlesh Mhashilkar说：人工智能治理并不只在IT层面
|
正确获取数据
算法偏差的最大来源是数据集。例如，对于面部识别技术来说，其数据集并不代表一般人群。Granek说，“我们发现，采用数据集更加关注白人男性，这种情况已经得到纠正，但还有很多工作要做。”
Granek表示，专家可以帮助解决数据偏差问题，商业数据提供商正在努力填补他们提供数据的空白。也有创建合成数据集的方法，但其解决办法往往是从外部获得更好的数据。
对于Xtract AI公司的枪支检测算法来说，这意味着需要设置一个实验室，而在实验室中携带枪支的人员需要混杂在人群中。
他说：“这种方法就好像是好莱坞电影中在人群中寻找持枪歹徒的画面，我们的人工智能系统需要在人群中进行识别，但这并不代表事情的真相。”
取而代之的是，Xtract AI公司努力收集大量的个人资料作为训练数据。Granek说，“对于可能携带武器的人员没有任何规定。我们的测试人员有一些学生，还有一些年纪较大的人，总之我们需要采集不同的群体的数据。”
对于某些人工智能应用程序来说，具有代表性的准确数据集可能是生与死之间的区别，并具有重大的道德和伦理意义。但是，即使不良数据集的影响不会导致发生公共灾难，仍然有可能对企业造成运营影响或财务损失，或导致监管或合规性问题。
这是总部位于墨西哥的Cemex公司关注的问题，Cemex公司是世界上最大的建筑材料分销商之一，已有100多年的经营历史。该公司正在通过在供应链管理和运营中使用人工智能来重塑自己。大约三年前，Cemex公司开始研究人工智能和相关技术，以扩大其市场份额，改善客户服务，提高利润。
该公司首席人工智能官Nir Kaldero说：“我们这两年实际上在全球范围内看到了人工智能的价值，而不仅仅是在小规模试点项目中。”
他说，随着人工智能技术融入该公司的经营理念之中，Cemex公司意识到有必要围绕人工智能建立治理结构。
Kaldero说：“这一切都始于数据。没有良好的信息架构，就不会有良好的、可靠的人工智能。没有良好的信息，就无法拥有良好可靠的模型。”
Cemex公司的数据治理涵盖了安全性、监控、隐私、合规性和道德规范，并且需要知道数据位于何处，在何处使用以及如何使用，是否符合法规要求以及是否没有偏见。
Kaldero表示，Cemex公司依靠Snowflake云数据平台管理数据。该公司有一位高管专门负责数据，另一位高管则负责治理团队的治理。
 （编辑：惠州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
