Su nueva visión sionista fue presentada en su totalidad en su libro titulado Der Judenstaat:
Versuch einer modernen Lösung der Judenfrage («El Estado judío: ensayo de una solución moderna de la cuestión judía»).
Que se publicó en febrero de 1896, donde propuso que la solución al «problema judío» es la creación de un Estado judío independiente y soberano para todos los judíos del mundo, que esto sea un asunto de política internacional y que debía ser asumido como tal.
El texto, más un manifiesto que una obra doctrinal, propuso un plan político y práctico que ofrezca una visión moderna e ilusionante para el naciente nacionalismo judío cuyo fin principal era la creación de un país moderno para el pueblo judío.
En el comienzo de su actividad, cuando comprendió la necesidad de un estado judío, fracasó en su intento de captar la atención de los judíos más acaudalados e influyentes como el Barón Hirsch y el Barón Rothschild.
Al principio, el texto no fue muy bien recibido, en los ambientes judíos liberales y asimilacionistas de Europa Central y occidental, era visto como una quimera más. Tampoco fue de agrado en las sinagogas, donde se percibió como contrario a las enseñanzas religiosas.
Por otro lado, sus ideas fueron recibidas con entusiasmo por las masas judías, que lo consideró como un moderno Moisés.
En Der Judenstaat escribió:
"La cuestión judía persiste donde viven judíos en cantidad considerable. Dondequiera que no exista, es llevado junto con los inmigrantes judíos. Nosotros, naturalmente, somos arrastrados a lugares donde no somos perseguidos, y nuestra aparición da lugar a la persecución. Este es el caso, y será inevitable así, en todas partes, incluso en países altamente civilizados -véase, por ejemplo, Francia- siempre que la cuestión judía no se resuelva en el plano político. El infortunio del pueblo judío ahora se está transportando y sembrando la semilla del antisemitismo en Inglaterra, y ya lo han introducido en América.
A partir de abril de 1896, cuando la traducción al inglés de Der Judenstaat apareció, Herzl se convirtió en el principal portavoz de sionismo. Herzl complementó su escrito y comenzó a desplegar una intensa actividad diplomática para ganar apoyo para la causa sionista en la escena internacional.
Visitó Estambul en abril de 1896, intentando de persuadir al Sultán de Turquía para que le ceda parte de la Siria Otomana, para crear un Estado Judío a cambio de apoyo financiero.
Fue acogido en Sofía, Bulgaria, por una delegación judía. En Londres, lo recibieron fríamente, pero se le concedió el mandato de liderazgo de los sionistas de Londres.
A los seis meses de este mandato fue aprobado en toda la comunidad judía sionista, y Herzl viajó constantemente para llamar la atención sobre su causa. Sus partidarios, al comienzo, pocos en número, trabajaron día y noche, inspirados por el ejemplo de Herzl.
Estableció su oficina central en Viena, desde donde desplegó su actividad hacia la comunidad judía, que comenzó a percibirle como un líder moderno y mundano, que podía encauzar el nacionalismo latente de amplios sectores judíos.
Según algunas fuentes, entre las que se encuentra el historiador revisionista israelí Benny Morris, el planteamiento de inmigración y compra de territorios de Herzl hacía que el conflicto entre los colonos y la población indígena, predominantemente árabe, de Palestina, fuera inevitable de tener éxito; la población indígena del territorio que les fuera asignado sólo podía interpretar la inmigración y adquisición de territorio organizada y políticamente motivada que señalaba Herzl en sus diarios en 1895, como desposesión y desplazamiento.
Efraim Karsh, profesor de Estudios de Guerra en el King's College de Londres, ha señalado en varias ocasiones inexactitudes en el trabajo de Morris, y sobre este tema indica que la cita a los diarios de Herzl omite varias frases, descontextualizando el sentido; también dice que Herzl no menciona en el párrafo ni a los árabes ni a Palestina y que de hecho sus previsiones en aquel momento estaban más encaminadas a Sudamérica, concretamente Argentina.
Cuando ocupemos el territorio, debemos ofrecer beneficios inmediatos al estado que nos reciba. Debemos expropiar con cuidado la propiedad privada en el estado que se nos ha asignado. Intentaremos desplazar a la población pobre que está a lo largo de la frontera, procurando empleo para ella en los países de tránsito, al tiempo que le negamos el empleo en nuestro país.
Los propietarios vendrán a nuestro lado. Tanto el proceso de expropiación como el de la eliminación de la pobreza deben ser llevados a cabo de forma discreta y con prudencia.
Permitamos a los propietarios creer que nos están engañando, vendiéndonos las cosas más caras de lo que en realidad valen. Pero nosotros no les vamos a revender nada... Debemos vender solo a judíos, y todo intercambio de bienes raíces debe realizarse solo entre judíos.
No es necesario decir que debemos tolerar respetuosamente a la gente de otras religiones y proteger su propiedad, su honor y su libertad con las más severas medidas de coerción. Ésta es otra área en la que debemos mostrar al mundo entero un magnífico ejemplo... Debe haber muchos propietarios inamovibles en áreas individuales (que no vayan a vendernos su propiedad), debemos simplemente dejarles allí y desarrollar nuestro comercio en dirección a otras áreas que nos pertenezcan a nosotros.
(en cursiva las frases omitidas según Karsh. La falta de estas descontextualizan el texto original.)
Allí fue elegido presidente (cargo que ocupó hasta su muerte en 1904), y en 1898 comenzó una serie de iniciativas diplomáticas destinadas a conseguir apoyo para un país judío. Fue recibido por el emperador alemán en varias ocasiones, fue nuevamente recibido en audiencia por el emperador otomano en Jerusalén y asistió a la Conferencia de Paz de 1899 en La Haya, disfrutando de una cálida acogida por muchos otros estadistas.
En 1902-03 Herzl fue invitado a testificar ante la Real Comisión Británica sobre la inmigración extranjera. El asunto lo puso en estrecho contacto con los miembros del gobierno británico, en particular, con Joseph Chamberlain, entonces Secretario de Estado para las Colonias, por medio de quien negoció con el gobierno Egipcio para establecer los estatutos de la solución de los judíos en Al 'Arish, en la Península del Sinaí.
En 1902 publicó su obra Altneuland (La Vieja Nueva Tierra) donde presentaría al futuro Estado judío como una utopía de nación moderna, democrática y próspera.