El inhóspito y desconocido ambiente de Australia forzó a los colonos ingleses y escoceses a seleccionar unos perros de trabajo que se adaptaran a las condiciones del país —espacios mucho más grandes, rebaños muchos más grandes de rebeldes corderos de raza merina, y el tremendo calor—. El Moh (como llaman en Australia al rebaño) había que recogerlo en corrales del rancho o la estación para pasar la noche protegiéndolo de los dingos aborígenes y para que no se perdieran. Para ello hacía falta un perro realmente trabajador que supiera reunir y dirigir el rebaño, más que el típico pastor de su país de origen.
Muchas zonas de Inglaterra habían elaborado su propia línea de pastor, casi siempre con el nombre de la región o del propietario. La mayoría de ellas se ha perdido hoy en día, pero para el año 1800 todavía existían algunas cuando tuvo su auge la emigración a Australia. En ese momento, muchas otras razas fueron introducidas a Australia, y las que mejor servían dentro del nuevo ambiente eran usadas y posteriormente cruzadas con otras locales.
Uno de los primeros tipos que resultó ideal para las condiciones australianas fue la línea Rutherford de Collies de North County. Estos perros eran de pelo corto, de oreja erecta o semi, y de color negro o negro y fuego, y fueron descritos por G. S. Kempe como de construcción robusta y temperamento valiente con una gran cabeza y fuertes mandíbulas.
Varios miembros de la familia Rutherford emigraron de Escocia a Australia, y recibieron un buen lote de estos perros de sus familiares. Otras personas pronto vieron las habilidades de estos perros y quisieron cachorros de esta línea. Hay dudas sobre sí se mantuvieron puros al ciento por ciento, ya que los pragmáticos propietarios de rebaños cruzaban sus buenas hembras de trabajo con los mejores perros que podían encontrar, sin importar su genealogía. Pero la línea Rutherford formó la base para la raza que actualmente se conoce como kelpie.
A finales del siglo XIX, un ranchero llamado Gleason cambió un caballo por un cachorro hembra negro y fuego criada en Victoria, de padres importados de la línea Rutherford. La llamó «kelpie», que en gaélico significa ondina, y la encontró una espléndida trabajadora. La perra fue conocida como «Gleason’s Kelpie», y su descendencia dio el nombre a la raza. Esta Kelpie original fue cruzada dos veces con «Moss», un perro australiano negro, de la línea Rutherford, y luego con «Caesar», un perro negro y fuego de padres puramente escoceses. Esta última camada con Caesar daría el más famoso kelpie de la historia. Una hembra negra y fuego, también llamada «kelpie», que fue regalada a G. T. W. King. Su kelpie (la segunda) ganaría la primera competición de perros de trabajo con rebaño celebrada en Australia. Esta victoria hizo aumentar el interés por esta línea.
La raza kelpie se basa en estos comienzos, con cruces a lo largo de los años con otras líneas. La raza es en esencia inglesa, sin introducción del dingo. Salieron muchos buenos perros de trabajo negros de la línea creada sobre «Moss», sobre todo uno llamado «Barb». Durante muchos años se creyó que los negros eran una raza aparte llamada barb. Había otras líneas conocidas por los nombres de sus mejores perros o de su dueño, pero pronto se unificaro.
