提高标准:洛克希德·马丁公司举办第三届年度工程案例伦理竞赛
在两天的时间里，来自21所高校的工程或商科专业的学生团队展示了他们解决的一个案例，涉及人工智能(AI)、机器学习(ML)技术和大规模数据分析领域的伦理、商业和工程困境。今年的冠军是杨百翰大学(BYU)，在最后一轮与弗吉尼亚理工大学竞争。进入半决赛的大学包括内布拉斯加大学林肯分校、阿拉巴马大学、佛罗里达大学和美国西点军校。
来自乔治梅森大学(George Mason University)的参赛学生、信息技术专业的艾莎·哈米德(Aisha Hameed)说:“这是一次非常美妙的经历，我从比赛和与我们分享宝贵行业知识的演讲嘉宾那里学到了很多东西。”“我希望我们大学继续参与这个令人惊叹的项目。”
比赛还为访问学生提供了亲身实践的机会，以了解洛克希德·马丁公司及其技术。学生们被鼓励了解道德在洛克希德·马丁公司的作用，并与洛克希德·马丁公司的工程师就如何解决该案件进行了讨论。学生们还参观了一个展台，展示了洛克希德的价值观和道德项目的小册子，包括供学生带回家的dvd，演示现实生活中道德商业困境的循环视频，以及与道德相关的棋盘游戏。
“在洛克希德·马丁公司，没有什么比道德和诚信更重要的了，”道德和企业保障高级副总裁小Leo Mackay说，“我想说，没有什么比我们的道德和诚信更重要了。”
案例:
简介
Eduardo Guadalupe和一些大学同学一起创办了ResQ公司，将人工智能(AI)和机器学习(ML)技术用于支持人道主义救灾。ResQ的愿景是“拯救世界”，这一直是吸引年轻工程师加入该公司的一个吸引力。
ResQ的第一个产品GRID是用于救灾搜索和救援(SAR)任务的快速反应能力(QRC)系统。ResQ推广全球资源计划拯救生命的能力，万博manbetx官方app同时大大减轻非政府组织和政府救济组织的财政和人员压力。
GRID的核心是一种先进的AI和ML软件算法，它使用大规模数据分析和实时和记录数据的态势感知来定义救援优先级，然后在自然灾害发生时制定实时复杂的任务救援计划。GRID使用机载无人机飞越灾区，收集数据，评估受损区域，识别有需要的人，然后制定一个同时涉及多个平台的救援策略。GRID的开放系统架构与客户的陆地、空中和海洋资源集成，以执行搜救任务。
GRID的基石是它能够使用社交媒体、众包、政府数据库和收集的实时数据来收集信息，以最好地识别和分析受影响最严重的地区，以确定最快速、最有效和最公正的救援任务的优先事项。GRID使用ML从不同的场景和事件生成一个不断增长的信息数据库，以更精确地直接响应。由于迄今为止在美国的众多成功试点项目，该系统已经接受了多年的数据训练，不断改进自身，以在不同的救灾情况下识别高度准确的模式。
ResQ在美国的成功引起了国际上对GRID的浓厚兴趣。万博手机appResQ的欧洲业务开发团队正在与三个欧盟大国进行最终谈判，并有可能在欧盟全面部署。
随着业务扩展到其他国家，以及AI和ML在创新行业的发展，ResQ建立了一个道德委员会，以帮助管理新产品的开发。
一个未透露姓名的亚太国家(UAP)表达了对完整的电网系统的强烈兴趣。为了寻求一份潜在的大合同，ResQ部署了一个原型系统，双方都理解，如果所有测试都成功通过，UAP将购买一个完整的GRID系统。
这个问题
在合同谈判中，UAP确定了出口管制法律的一个风险，并要求能够修改软件的输入数据参数和数据存储方法，以使平台适合其特定的地理位置、自然灾害和国家的需求。UAP向ResQ强调，其本国的社交媒体平台将与GRID并行工作，以帮助加快搜救任务并降低数据共享的风险。UAP通知ResQ，如果没有这项功能，他们将不会敲定合同。
ResQ的领导将挑战交给了工程团队。他们找到了一种方法，将客户的专有数据(在ResQ的服务器上加密)与其他数据集分隔开来，允许客户在从ResQ的巨大数据库的其余部分受益的同时定制他们的需求。此外，ResQ还添加了一个接口，允许客户修改社交媒体平台数据源实现。UAP表示，这一变化将有助于数据收集和救援战略的制定。满足这一要求后，UAP与ResQ签订了合同。在国内测试期间，该系统在救援策略和优先级方面出现了意外偏差。
在最后一组测试中，全球资源数据库始终未能为特定地理位置的个人群体分配足够的救援资源。为了调试这一问题，工程团队将该组的位置移动到之前所有测试中始终包含在救援策略中的区域，但该组仍然被排除在任务计划之外。ResQ很快取消了演示，试图将任何担忧降到最低，理由是系统有一个需要解决的小错误。
ResQ的工程团队表示，为了真正确定这些错误是系统问题还是巧合，他们需要分析进入系统的数据。然而，UAP拒绝提供这些数据。然而，UAP的工程师们表示，这次故障只是一个巧合异常，他们会接受这个系统的现状。事实上，UAP非常急于全面部署，他们通知ResQ，任何在国内测试的系统修改都将被拒绝，UAP将认为ResQ违反合同并受到重大处罚。
的响应
当业务开发团队正在处理UAP的这些问题时，总部ResQ启动了内部根本原因分析(RCA)，以确定是什么导致了算法的意外问题。首席软件工程师Jack Jonas强烈主张在完全解决偏离行为之前不要部署GRID。Jack从理论上说，最初的算法和ML框架是使用在美国任务中收集的大量数据开发、测试和证明的。因此，系统可能会对“西方”文化和环境产生偏见，从而导致UAP中的行为偏差。
工程项目经理(EPM) Nicole Nickels反驳说，问题不在于算法，而是来自该国社交媒体和信息系统的有偏见的数据进入系统，这故意导致系统在救援策略中不优先考虑个人。
ResQ的AI主题专家(SME) Shari Samson表示，这种行为上的小偏差仅仅是因为基于美国的系统随着时间的推移使用自下向上的ML方法进行了广泛的训练，并且由于合同中商定的数据分区，系统在国外的初始部署将需要时间，直到它执行了足够多的任务来学习和纠正自己。
由于缺乏来自测试的系统输出数据，这三位专家无法最终确定问题的正式原因。当他们向ResQ的执行领导团队和道德委员会提交分析报告时，基于Shari多年的经验和个人信誉，她的说法得到了强有力的支持。他们否认了系统算法中存在文化偏见的可能性，称这是对该产品的未经证实的指控。有关文化偏见的言论将造成一场公关噩梦，可能导致所有电网系统停转，如果发生自然灾害，美国将处于危险之中。
此外，伦理委员会、合同和法律部门都否定了妮可的理论。进入系统的数据不是ResQ的责任，系统和公司在法律上符合美国法律法规，满足系统的所有要求。
ResQ同意了UAP的接受标准。根据Shari的建议，ResQ立即部署了GRID，开始教系统快速纠正偏离行为。
部署后不久，一场大气旋袭击了乌干达联合共和国，造成重大和广泛的破坏。在24小时内，UAP的新闻服务报道说，GRID运行良好，人员伤亡很小。
然而，独立新闻来源发现，许多受严重影响且非土著人口众多的地区确实有很高的伤亡率，尽管在这些地区部署了全球应急资源计划。西方媒体称，由于对这些居民的不公正偏见，这是一次失败的救援。
在听到来自UAP的报告后，欧洲客户冻结了谈判，要求澄清为什么ResQ会允许在其GRID系统中存在种族定性和其他偏见。这些行动促使欧盟官员联系ResQ，并警告说，如果GRID违反了欧盟反歧视法，ResQ将被禁止在欧盟境内开展业务。
爱德华多·瓜达卢佩不知道该怎么办。他不确定如何继续UAP，以及欧洲的前景。ResQ的道德委员会一直无法达成共识。
爱德华多联系你的咨询公司提供一个公正的建议。您的团队的任务是分析伦理、工程和业务问题。ResQ正在寻求一条清晰的前进道路，继续保持其业务盈利和价值不变。
由于安全要求，您的团队在审核期间将无法访问GRID的专有知识产权。爱德华多要求你陈述你在提出建议时所做的任何技术假设。