Opportunité de financement
Nom du programme
Subventions Catalyseur – Appel de propositions sur la sécurité de l’IA
Organisme(s) porteur(s)
- CIFAR
Organisme(s) partenaire(s)
- Institut canadien de la sécurité de l'intelligence artificielle (ICSIA)
Secteur(s)
- Sciences naturelles et mathématiques
Description du programme
Les fonds Catalyseur financent des projets audacieux à fort impact ainsi que des propositions hautement innovantes susceptibles d’avoir de vastes retombées dans le domaine de la sécurité de l’IA. Les projets proposés peuvent être destinés à l’avancement de la recherche dans tous les champs d’études de la sécurité de l’IA. Le CIFAR est particulièrement intéressé par les propositions axées sur la gestion des risques et les stratégies d’atténuation des risques à court et à moyen terme décrits dans la version définitive du Rapport scientifique international sur la sécurité de l’IA (paru en janvier 2025), et notamment par les questions suivantes :
- Entraînement de modèles plus fiables : Attaques hostiles, Méthodes de désapprentissage automatique, Cybersécurité, Étude de la confiance et des valeurs humaines en rapport avec les difficultés que pose l’alignement de l’IA sur nos principes éthiques et moraux.
- Surveillance et intervention : Interprétabilité et explicabilité des modèles, Approches techniques et sociotechniques permettant de discerner et d’atténuer les effets néfastes du contenu généré par l’IA, Meilleures pratiques de surveillance, par l’humain, des systèmes d’IA et du contenu (synthétique) qui en découle.
- Méthodes de protection des renseignements personnels : Cryptographie, Stratégies relatives à la possession et au contrôle des renseignements personnels.
- Défis sociétaux et solutions d’atténuation des risques : Confiance, désinformation et vision de l’IA au sein du public, Approches novatrices en matière de gouvernance favorables à l’application de stratégies d’atténuation des risques, Contexte économique et réglementaire (concurrence du marché, concentration des pouvoirs, etc.).
- Autres conceptions sociotechniques et techniques de l’équité, des droits de la personne et de la représentation.
Remarques sur le programme
Dans tous les cas, les projets proposés doivent pouvoir déboucher sur des résultats concrets au bout de 12 mois. Nous sommes à la recherche de projets qui ouvriront la voie à des avancées majeures, à des retombées importantes ou à de nouveaux travaux. Les projets retenus recevront jusqu’à 100 000 $ en subventions par année.
Concours ouvert en tout temps : non
Date limites
| Avis | Révision par le SRC au plus tard le | Approbation par le SRC au plus tard le | Date de clôture de l'organisme |
|---|---|---|---|
| Demande complète | 13/02/2025 17:00 | 25/02/2025 17:00 | 27/02/2025 23:59 |
Format des dates: jj/mm/aaaa
Remarque sur les envois
Admissibilité
- Les propositions peuvent être soumises par un maximum de deux chercheuses ou chercheurs principaux (CP);
- Au moins l’une de ces personnes doit être affiliée à un institut d’IA (Amii, Mila ou Institut Vecteur) à titre de membre du personnel ou de membre affilié du corps professoral;
- Les cochercheuses ou cochercheurs principaux (coCP) doivent être affiliés à une université canadienne.
Les demandes doivent être téléverser sur le portail SurveyMonkey Apply du CIFAR.
Une copie électronique du dossier complet tel que soumis à l'organisme doit être transmise à la personne responsable de la note (voir personne ressource de la note).
Lien(s) internet
Personne(s) ressource(s)
- Pascale Martineu (SRC) poste 4229
- Khalil Miloudi (SRC) poste 20783
Dernière mise à jour: 12 février 2025