Sau tấn bi kịch của gia đình và của chính mình, Đào Duy Từ vô cùng phẫn chí. Ông quyết định bỏ xứ Bắc, tìm đường vào Nam với chúa Nguyễn mưu chuyện lập danh.

Ông lặn lội vào tận Bình Định đi chăn trâu cho một điền chủ.

Một hôm ông dắt trâu qua cửa quan khâm lý Trần Đức Hoàn, nghe bên trong các nho sĩ đang sang sảng bàn luận kinh sách, ông bèn buộc trâu lại, chăm chú lắng nghe. Quan khâm lý phát hiện thấy hành vi khác thường của một đứa chăn trâu, bèn cho gọi vào và hỏi:

- Anh có hiểu gì về văn nghĩa không mà lại đứng nghe lén chuyện của chúng ta?

Chàng chăn trâu chắp tay thưa:

- Dạ, tôi được nghe các ngài luận bàn về “Nho quân tử” và “Nho tiểu nhân”, tôi thật lấy làm thú vị lắm!

 - Vậy anh hiểu thế nào là “Nho quân tử”, thế nào là “Nho tiểu nhân” thử nói ta nghe!

- Thưa ngài tôi chưa đủ sức để luận về Nho như các ngài. Tôi đi chăn trâu, vậy tôi xin nói về kẻ chăn trâu, được không ạ!

- Cũng được, anh hãy nói xem!

- Thưa ngài, người ta có đôi ba đấng. Ngay kẻ chăn trâu cũng có “chăn trâu quân tử” và “chăn trâu tiểu nhân”! Chăn trâu tiểu nhân là những kẻ chỉ biết ngày ngày dắt trâu đi ăn cỏ ngoài đồng, tối lại dắt trâu về chuồng, đầu óc không lo toan nghĩ ngợi điều gì trên đời cả. Còn chăn trâu quân tử là những người tuy phải chăn trâu để làm kế sinh nhai nhưng lúc nào cũng ôn tài luyện chí để mưu làm được một việc gì xứng đáng ở trên đời. Sử sách còn ghi những người chăn trâu quân tử như Ninh Thích, sau làm tướng nước Tề, Bách Lý Hề, sau làm tướng nước Tần...

Viên quan nghe chàng chăn trâu nói, biết ngay là khẩu khí của một trang hào kiệt, bèn niềm nở kết giao với chàng, lưu chàng lại tư dinh, sau lại gả con gái cho chàng và tiến cử chàng với chúa Sãi. Lúc ấy “chàng chăn trâu” mới bộc lộ rõ thực tài của mình. Chàng làm bài phú “Ngọa long cương” để tự ví mình với Gia Cát Lượng đời Tam Quốc.

Chúa Sãi được Đào Duy Từ, vô cùng mừng rỡ, dùng ông làm nội tán và phong chức Lộc khê hầu.

Đào Duy Từ đã giúp chúa Nguyễn bầy mưu tính kế, luyện tập quân sĩ và cho đắp Lũy Thầy nổi tiếng để chống nhau với họ Trịnh.