Profiloinnilla viitataan ihmistä koskevien päätelmien tekemiseen, jossa nämä päätelmät eivät perustu täysin ihmistä vaan yksinomaan tai myös muiden ihmisten ominaisuuksiin tai käyttäytymiseen. Ihmisen kohteleminen stereotypioiden pohjalta on esimerkiksi profiloinnin muoto, jossa ihmisestä tehdään (vääriä) päätelmiä miellekuvien tai ennakkokäsitysten perusteella. Tekoälysovellukset, joilla käsitellään ihmisiä koskevaa dataa, ovat eräänlaisia profilointikoneita: niillä katsotaan, minkälaisia digitaalisia jälkiä ihmiset jättävät, vertaillaan niitä ja etsitään tilastollisia korrelaatioita, joiden perusteella pyritään ennustamaan, mitä ihmiset tekevät tai mitä heille tapahtuu seuraavaksi.
Profiloinnilla on yleisessä keskustelussa negatiivinen merkitys, mutta profilointi voi olla harmitonta ja jopa erittäin hyödyllistä. Esimerkiksi lääketieteellisiä diagnooseja tuotetaan eräänlaisen profiloinnin avulla; tyypillisestä oirekuvasta ja potilaan oireista päätellään yksilölle sopiva diagnoosi.
Profilointi voi olla myös vahingollista useista eri syistä, mukaan lukien siksi, että se loukkaa yksilön autonomiaa. Profiloitua ihmistä ei esimerkiksi välttämättä kohdella autonomisena yksilönä vaan (pelkästään) ryhmän jäsenenä. Tämän takia profilointia on esimerkiksi vastustettu konteksteissa, joissa on erityisen tärkeää, että ihmisiä kohdellaan yksilöinä, kuten oikeuskäsittelyissä. Profilointi voi myös johtaa virhepäätelmiin. Tekoälyn kontekstissa onkin tärkeää, että hyödynnetty data on korkealaatuista ja edustavaa. Profilointi on myös ongelmallista silloin, kun se on syrjivää. (Katso lisää algoritmisia vinoumia käsittelevästä osiosta.)