持续武装冲突期间负责任地使用 GenAI：来自苏丹应急响应室的证据

武装冲突可能提升生成式人工智能（GenAI）的价值，同时削弱负责任地使用它所需的条件。然而，在这些条件下开展工作的社区人道主义响应人员，其观点在负责任人工智能研究中仍未得到充分体现。我们通过一项涵盖 89 名受访者的探索性调查，以及对 GenAI 使用者和非使用者开展的 15 次半结构化访谈，考察了苏丹应急响应室（ERRs）这一社区主导的人道主义网络对 GenAI 的使用情况。战争重塑了 GenAI 的作用，使其在输出最难核实的情境中最为有用。当冲突使获取人类专业支持变得困难或危险时，ERR 响应人员便转而求助于 GenAI。然而，参与者提醒，GenAI 无法独立查明快速变化的当地情况，而在人类难以核实其输出时，依赖这些输出可能导致有害的决策。风险在使用 GenAI 之前就已存在。对一些志愿者而言，携带手机或接入互联网就可能使他们面临危险。另一些人则担心，向 GenAI 提供敏感的受助者信息或行动信息可能使相关人员面临风险。参与者担忧，借助 AI 撰写的报告可能损害他们在捐助方心目中的可信度，而 ERRs 提供的食品和医疗援助正依靠这些捐助方的资金维持。获取 GenAI 的机会并不均等，使用它的志愿者有时会依靠具备相关专业知识或了解当地情况的同事来核实其结果。我们的研究发现表明，在冲突期间负责任地使用 GenAI，不仅取决于模型性能或个人是否采用，还取决于响应人员能否安全地获取这些工具、依据当地情况核实其输出，以及能否认识到何时限制或避免使用 GenAI 才是更负责任的选择。