Artificial intelligence has the potential to be a permanent part of our criminal justice system, providing investigative assistance and allowing criminal justice professionals to better maintain public safety. Despite the opportunities it offers, artificial intelligence, which has recently been used in criminal proceedings in the Member States of the European Union, also carries great risks for fundamental rights and democracies based on the rule of law. This is because the use of algorithms in the criminal justice system raises serious concerns regarding the right to a fair trial under Article 6 of the European Convention on Human Rights. Although the legislation on artificial intelligence in criminal matters in the European Union legal system is very new and limited compared to other parts of the law, the criteria of human control, non-discrimination, transparency and non-detrimental impact come to the fore in this regard. The use of artificial intelligence in the criminal justice system was addressed in the European Commission's white paper "Artificial Intelligence - A European Approach Excellence and Trust" of February 19, 2020. In the white paper, the Commission highlighted the opportunities that AI promises, but also the potential risks of "unclear decision-making, gender-based or other forms of discrimination, interference in our private lives or use for criminal purposes". In addition, in its Resolution of 6 October 2021 on artificial intelligence in criminal law and its use by police and judicial authorities in criminal matters, the European Parliament highlighted the potential for prejudice and discrimination arising from the use of artificial intelligence.
Yapay zekâ, muhakemeye destek olmak ve kamu güvenliğinin daha iyi korunmasına olanak sağlamak suretiyle ceza adaleti sisteminin kalıcı bir parçası olma potansiyeline sahiptir. Son zamanlarda Avrupa Birliği Üye Devletleri ceza yargılamalarında da kullanılmaya başlanılan yapay zekâ, sunduğu imkânlara rağmen hukukun üstünlüğüne dayalı temel haklar ve demokrasiler için büyük riskleri de bünyesinde barındırmaktadır. Zira algoritmaların ceza adaleti sisteminde kullanılması Avrupa İnsan Hakları Sözleşmesi m. 6'da düzenlenen adil yargılanma hakkına ilişkin ciddi endişelere yol açmaktadır. Her ne kadar Avrupa Birliği hukuk sisteminde cezai konularda yapay zekâya ilişkin mevzuat diğer alanlara göre çok yeni ve sınırlı da olsa insan denetimi, ayrım yapmama, şeffaflık ve zararlı etkiye yol açmama kriterleri bu konuda ön plana çıkmaktadır. Yapay zekânın ceza adaleti sisteminde kullanılması konusu, Avrupa Birliği Komisyonu’nun 19 Şubat 2020 tarihli “Yapay Zekâ – Mükemmellik ve Güvene Dayalı Avrupa Yaklaşımı” başlıklı teknik incelemesinde ele alınmıştır. Teknik incelemede Komisyon, yapay zekânın vadettiği fırsatların yanı sıra “açık olmayan karar verme, cinsiyete dayalı veya diğer türden ayrımcılık, özel hayatlarımıza müdahale veya suç amacıyla kullanılma” açısından taşıdığı potansiyel riskleri de vurgulamıştır. Buna ek olarak, ceza hukukunda yapay zekâ ve bunun polis ve adli makamlar tarafından cezai konularda kullanılmasına ilişkin 6 Ekim 2021 tarihli Kararında Avrupa Parlamentosu, yapay zekâ kullanımından kaynaklanan önyargı ve ayrımcılık potansiyelini vurgulamıştır.
