人工智能治理如何在收获回报的同时减少风险
发布时间：2021-06-10 13:46:54 所属栏目：大数据 来源：互联网
导读：人工智能治理涉及企业内的许多功能和领域，其中包括数据隐私、算法偏见、合规性、道德等方面。因此，企业解决使用人工智能技术的治理问题需要在许多层面上采取行动。 塔塔咨询服务公司数据和分析业务负责人Kamlesh Mhashilkar说：人工智能治理并不只在IT层面
|
人工智能治理涉及企业内的许多功能和领域，其中包括数据隐私、算法偏见、合规性、道德等方面。因此，企业解决使用人工智能技术的治理问题需要在许多层面上采取行动。
塔塔咨询服务公司数据和分析业务负责人Kamlesh Mhashilkar说：“人工智能治理并不只在IT层面或项目层面实施，也要得到政府、企业董事会和首席安全官的重视。”
他指出，例如在医疗保健领域，人工智能模型必须通过严格的审核和检查。其他行业也有适用的法规。Mhashilkar说，“企业董事会关注人工智能治理与经济行为有关，这是因为当引入人工智能技术时，企业将会面临一些风险。”
至于企业管理层，有关人工智能的议程是有目的性的。例如，首席财务官需要考虑人工智能带来的股东价值和盈利能力。首席信息官和首席数据官也是主要的利益相关者，企业市场和合规负责人也是如此，更不用说客户和供应商。
并非所有企业需要在构建人工智能治理战略的各个方面采取行动。尤其一些规模较小的公司。尽管如此，各种规模的企业都将使用人工智能和相关技术，即使它们只是嵌入到他们使用的第三方工具和服务中。
但是如果在未经适当监督的情况下使用人工智能技术可能出现一些严重错误，从而损害业务运营、侵犯隐私权，违反行业法规或对企业带来不良信誉的影响。
具有前瞻性思维的企业将人工智能项目从试点扩展到生产，并重点关注数据质量、算法性能、合规性和道德规范。以下是他们需要解决的人工智能治理问题：
人工智能的道德问题
如今，很少有哪个领域比面部识别领域面临更多的道德方面的问题。其技术滥用的可能性很大，提供面部识别技术的一些企业正受到公众的抵制，有时还受到自己员工的抵制。
Patriot One科技公司的子公司Xtract AI公司就面临着这种情况，该公司使用图像识别技术来识别携带武器的人员。
Xtract AI公司运营副总裁Justin Granek表示，面部识别技术还可以用于其他场合，例如识别不遵守面具或社交疏导准则的人员。
他说，“对于我们来说，道德是一个主要的话题。例如我们的员工说：‘我们正在做些什么?’，这迫使我们需要制定人工智能治理的政策。”
他指出，“客户有自己的一些要求，需要确定一个平衡点。加拿大国防部是我们的客户之一，我们还有一些医疗保健领域的客户。他们正在从不同的角度看待它。”
他表示，该公司面临最大的问题是要为哪些客户工作，以及面部识别技术应该应用在哪些方面?这是一个与企业使命有关的重要决定。但是还必须解决一些技术问题，这些问题的起因都是数据。
（编辑：惠州站长网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
