警犬的起源要追溯到14世纪初的法国，那时警察就开始用狗看守停泊在码头的货船。
19世纪末巴黎的警察开始用狗对付街头的黑帮，但直到那时巡警只是把自家的狗带上街头陪伴巡逻，并没有对狗进行任何正规的训练。但尽管如此，警察们很快发现用狗陪伴巡逻起到了很好的效果，可以震慑那些街头斗殴的小混混。于是此举迅速地被欧洲其他国家的警察效仿。关于最早开始科学地选育品种和系统培训狗协助警察工作是19世纪末——20世纪初。那时欧洲各国家开始科学地培育优良品种的狗并训练为警用犬。第一间类似今天的警犬培训学校于1920年诞生在德国的格林黑德。