Kiedy w Europie Środkowej rozwinął się ruch kynologiczny, a jednocześnie rozwój miast pociągnął za sobą wzrost przestępczości, zrodziło się zainteresowanie psem służbowym. W Niemczech  utworzono związek, którego celem było popieranie hodowli psów owczarskich, w których widziano dobry materiał na psa służbowego dla wojska i policji. Związek ten nazywał się Phylax.

Po ośmiu latach działalności Phylaksu powstał nowy związek, utworzony przez rotmistrza Maxa von Stephanitza 3 kwietnia 1899 roku. Kiedy von Stephanitz wraz ze swoim przyjacielem Arturem Mayerem był w Karlsruhe na wielkiej ogólnokrajowej wystawie hodowlanej, ich uwagę zwrócił jeden z prezentowanych na tej wystawie psów. Był to pracujący owczarek w typie pierwotnym, silny, wytrzymały i sprężysty. Pies nazywał się Hektor Linksrhein i stał się nowym nabytkiem von Stephanitza do jego psiarni w Grafrath. Hodowca nadał mu nowe imię Horand von Grafrath i zarejestrował go pod numerem 1 w księdze hodowlanej owczarków niemieckich.

Właściciel psa opisał go słowami: "Horand ucieleśniał dla entuzjastów rasy spełnienie ich najdroższych marzeń. Był to pies, jak na te czasy, duży (61 cm), o potężnej budowie, pięknych liniach i szlachetnej głowie. Był silny i sprężysty, jak stalowy drut. Jego wspaniałej budowie odpowiadał charakter. Horand był cudowny w posłusznej wierności dla swego pana, był prostolinijny i szczery. Miał naturę gentlemana, połączoną z nieograniczoną pasją życia i pracy. Mimo że nie przeszedł gruntownej tresury w młodym wieku, był przy boku swego pana uważny na jego najmniejsze skinienie. Pozostawiony sam sobie, stawał się skończonym rozrabiaką i niepoprawnym prowokatorem bójek. Zawsze dobrze usposobiony wobec spokojnych ludzi, nieufny, ale nieulękły wobec obcych, uwielbiał dzieci. Jego błędy w zachowaniu były wadami wychowania, nigdy skłonnościami charakteru. Horand cierpiał po prostu na nadmiar niespożytej energii, był szczęśliwy i wniebowzięty, kiedy ktoś się nim zajął – był wtedy najszczęśliwszym z psów."

Max von Stephanitz swoje założenia hodowlane oraz doświadczenia związane z tym przedsięwzięciem opisał w monografii Der Deutsche Schäferhund in Wort und Bild.

Od chwili odkrycia Horanda, von Stephanitz i jego współpracownicy rozpoczęli poszukiwanie suk, w których występowały elementy zbliżone do Horanda, aby rozpowszechnić jego typ. Wstępnie selekcjonowano szczenięta tuż po urodzeniu, a końcowa selekcja następowała w wieku, kiedy ich charakter, temperament i budowa mogły być ostatecznie zakwalifikowane.

Hodowlę owczarka niemieckiego budowano na Horandzie i jego potomkach, stosując inbred i ostrą selekcję potomstwa. Nowa krew do chowu wsobnego była wprowadzana przez suki, zawsze jednak pochodzące z użytkowych gniazd pasterskich. W wyniku chowu krewniaczego i upodobań niektórych hodowców do dużych psów, hodowla owczarka przybrała w pierwszym ćwierćwieczu XX stulecia nie taki kierunek, jaki obrali założyciele rasy. Około 1925 roku psy tej rasy, jako całość, stały się wysokie, kwadratowe i niezgrabne, brak im było cech, które były wymagane przez Stephanitza jako ideał. Notowano ponadto coraz więcej wad charakteru oraz mnożyły się braki w uzębieniu. W roku 1922 Max von Stephanitz wprowadził system regularnych przeglądów licencyjnych, na których analizowano i przeprowadzano surową krytykę, każdego kandydującego do rozpłodu psa, z dokładnym opisem i poleceniem, jak go hodować.

W roku 1925 odbyła się we Frankfurcie nad Menem wystawa, na której poddano surowej ocenie owczarki i wyselekcjonowano osobniki, mające mieć od tej pory najsilniejszy wpływ na kształtowanie rasy według założeń von Stephanitza. Zwycięzcą wystawy został pies Klodo von Boxberg.