Grant: Alliance Grants

Autonomous systems face a major sociotechnical integration challenge when they must collaborate with human operators and that challenge is hindering their effectiveness and use. Specifically, human-AI agent teamwork comes with cognitive costs and new skill requirements for both human and artificial agents. Collaboration overhead costs need to be minimized, along with improving shared understanding and mutual adaptation. We propose to help overcome those capability gaps through human-AI co-learning of teamwork and taskwork. Our main hypothesis is that to be effective, human-autonomy teaming (HAT) systems must not only focus on human and AI-based counterparts learning how to perform the required taskwork, but they must also learn how to engage together in the required teamwork processes for effective mission management and adaptation. An adaptive command and control (C2) process with adjustable human-autonomy collaboration is therefore proposed herein. This framework will be instantiated and tested in simulated human-in-the-loop maritime operations scenarios where a human supervisory controller manages several unmanned vehicles to perform tasks in challenging environments requiring agility. Experiments using a synthetic high-fidelity testbed will objectively and comprehensively measure the impacts of augmenting the HAT system with the envisioned co-learning, shared understanding, and adaptive C2 capabilities. The key goals of this partnership are thus to 1) contribute to the acquisition of knowledge for the design of effective HAT systems; 2) offer new applied cognitive science perspectives on human and AI-agent collaboration; and 3) iteratively test successive versions of a proof-of-concept capability to de-risk uncertainties and inform design of each subsequent iteration. Les systèmes autonomes sont confrontés à un défi majeur d'intégration sociotechnique lorsqu'ils doivent collaborer avec des opérateurs humains, ce qui nuit à leur efficacité et à leur utilisation. Plus précisément, le travail en équipe d'un agent humain et d'un agent artificiel s'accompagne de coûts cognitifs et de nouvelles exigences en matière de compétences pour les humains et les agents IA. Les coûts de la collaboration doivent être minimisés, tout en améliorant la compréhension partagée et l'adaptation mutuelle. Nous proposons de contribuer à surmonter ces lacunes en matière de capacités par le biais d'un co-apprentissage humain-IA du travail d'équipe. Notre principale hypothèse est que, pour être efficaces, les systèmes de travail en équipe humain-agent ne doivent pas seulement se concentrer sur l'apprentissage par les humains et les agents de la manière d'effectuer les tâches requises, ils doivent également apprendre à s'engager ensemble dans les processus de travail en équipe pour une gestion efficace de la mission. Un processus adaptatif de commandement et de contrôle (C2) avec une collaboration humain-agent ajustable est donc proposé dans la présente proposition de recherche. Ce cadre sera élaboré et testé dans des scénarios simulés d'opérations maritimes où un contrôleur humain gère plusieurs véhicules sans pilote pour effectuer des tâches dans des environnements difficiles nécessitant de l'agilité. Les expériences utilisant un banc d'essai synthétique haute-fidélité mesureront les impacts de l'augmentation du système humain-agent avec les capacités envisagées de co-apprentissage, de compréhension partagée et de C2 adaptatif. Les principaux objectifs de ce partenariat sont donc les suivants : 1) contribuer à l'acquisition de connaissances pour la conception de systèmes humain-agent efficaces ; 2) offrir de nouvelles perspectives en matière de sciences cognitives appliquées sur la collaboration entre intelligence humaine et artificielle ; et 3) tester de manière itérative des versions successives d'une preuve de concept.