com.oinux.lanmitm.util.RequestParser.java Source code

Java tutorial

Introduction

Here is the source code for com.oinux.lanmitm.util.RequestParser.java

Source

/*
 * This file is part of the dSploit.
 *
 * Copyleft of Simone Margaritelli aka evilsocket <evilsocket@gmail.com>
 *
 * dSploit is free software: you can redistribute it and/or modify
 * it under the terms of the GNU General Public License as published by
 * the Free Software Foundation, either version 3 of the License, or
 * (at your option) any later version.
 *
 * dSploit is distributed in the hope that it will be useful,
 * but WITHOUT ANY WARRANTY; without even the implied warranty of
 * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
 * GNU General Public License for more details.
 *
 * You should have received a copy of the GNU General Public License
 * along with dSploit.  If not, see <http://www.gnu.org/licenses/>.
 */
package com.oinux.lanmitm.util;

import android.util.Log;
import android.util.Patterns;

import org.apache.http.impl.cookie.BasicClientCookie;

import java.sql.Date;
import java.util.ArrayList;
import java.util.Iterator;

public class RequestParser {

    private static final String[] TLD = { ".com.ac", ".edu.ac", ".gov.ac", ".net.ac", ".mil.ac", ".org.ac", ".ad",
            ".nom.ad", ".ae", ".net.ae", ".gov.ae", ".org.ae", ".mil.ae", ".sch.ae", ".ac.ae", ".pro.ae",
            ".name.ae", ".aero", ".af", ".gov.af", ".edu.af", ".net.af", ".com.af", ".ag", ".com.ag", ".org.ag",
            ".net.ag", ".co.ag", ".nom.ag", ".ai", ".off.ai", ".com.ai", ".net.ai", ".org.ai", ".gov.al", ".edu.al",
            ".org.al", ".com.al", ".net.al", ".tirana.al", ".soros.al", ".upt.al", ".am", ".an", ".com.an",
            ".net.an", ".org.an", ".edu.an", ".co.ao", ".ed.ao", ".gv.ao", ".it.ao", ".og.ao", ".pb.ao", ".com.ar",
            ".gov.ar", ".int.ar", ".mil.ar", ".net.ar", ".org.ar", ".iris.arpa", ".uri.arpa", ".urn.arpa", ".as",
            ".at", ".gv.at", ".ac.at", ".co.at", ".or.at", ".priv.at", ".asn.au", ".com.au", ".net.au", ".id.au",
            ".org.au", ".csiro.au", ".oz.au", ".info.au", ".conf.au", ".act.au", ".nsw.au", ".nt.au", ".qld.au",
            ".sa.au", ".tas.au", ".vic.au", ".wa.auFor", ".gov.au", ".and", ".act", ".nsw", ".nt", ".qld", ".sa",
            ".tas", ".vic", ".wa", ".aw", ".com.aw", ".ax", ".az", ".com.az", ".net.az", ".int.az", ".gov.az",
            ".biz.az", ".org.az", ".edu.az", ".mil.az", ".pp.az", ".name.az", ".info.az", ".com.bb", ".edu.bb",
            ".gov.bb", ".net.bb", ".org.bb", ".com.bd", ".edu.bd", ".net.bd", ".gov.bd", ".org.bd", ".mil.bd",
            ".ac.be", ".gov.bf", ".possibly", ".com.bm", ".edu.bm", ".org.bm", ".gov.bm", ".net.bm", ".com.bn",
            ".edu.bn", ".org.bn", ".net.bn", ".bo", ".com.bo", ".org.bo", ".net.bo", ".gov.bo", ".gob.bo",
            ".edu.bo", ".tv.bo", ".mil.bo", ".int.bo", ".agr.br", ".am.br", ".art.br", ".edu.br", ".com.br",
            ".coop.br", ".esp.br", ".far.br", ".fm.br", ".gov.br", ".imb.br", ".ind.br", ".inf.br", ".mil.br",
            ".net.br", ".org.br", ".psi.br", ".rec.br", ".srv.br", ".tmp.br", ".tur.br", ".tv.br", ".etc.br",
            ".adm.br", ".adv.br", ".arq.br", ".ato.br", ".bio.br", ".bmd.br", ".cim.br", ".cng.br", ".cnt.br",
            ".ecn.br", ".eng.br", ".eti.br", ".fnd.br", ".fot.br", ".fst.br", ".ggf.br", ".jor.br", ".lel.br",
            ".mat.br", ".med.br", ".mus.br", ".not.br", ".ntr.br", ".odo.br", ".ppg.br", ".pro.br", ".psc.br",
            ".qsl.br", ".slg.br", ".trd.br", ".vet.br", ".zlg.br", ".dpn.br", ".nom.br", ".bs", ".com.bs",
            ".net.bs", ".org.bs", ".bt", ".com.bt", ".edu.bt", ".gov.bt", ".net.bt", ".org.bt", ".bw", ".co.bw",
            ".org.bw", ".gov.by", ".mil.by", ".ca", ".ab.ca", ".bc.ca", ".mb.ca", ".nb.ca", ".nf.ca", ".nl.ca",
            ".ns.ca", ".nt.ca", ".nu.ca", ".on.ca", ".pe.ca", ".qc.ca", ".sk.ca", ".yk.ca", ".cc", ".co.cc", ".cd",
            ".com.cd", ".net.cd", ".org.cd", ".ch", ".com.ch", ".net.ch", ".org.ch", ".gov.ch", ".co.ck", ".others",
            ".cn", ".ac.cn", ".com.cn", ".edu.cn", ".gov.cn", ".net.cn", ".org.cn", ".ah.cn", ".bj.cn", ".cq.cn",
            ".fj.cn", ".gd.cn", ".gs.cn", ".gz.cn", ".gx.cn", ".ha.cn", ".hb.cn", ".he.cn", ".hi.cn", ".hl.cn",
            ".hn.cn", ".jl.cn", ".js.cn", ".jx.cn", ".ln.cn", ".nm.cn", ".nx.cn", ".qh.cn", ".sc.cn", ".sd.cn",
            ".sh.cn", ".sn.cn", ".sx.cn", ".tj.cn", ".xj.cn", ".xz.cn", ".yn.cn", ".zj.cn", ".com.co", ".edu.co",
            ".org.co", ".gov.co", ".mil.co", ".net.co", ".nom.co", ".ac.cr", ".co.cr", ".ed.cr", ".fi.cr", ".go.cr",
            ".or.cr", ".sa.cr", ".cu", ".com.cu", ".edu.cu", ".org.cu", ".net.cu", ".gov.cu", ".inf.cu", ".cx",
            ".gov.cx", ".com.cy", ".biz.cy", ".info.cy", ".ltd.cy", ".pro.cy", ".net.cy", ".org.cy", ".name.cy",
            ".tm.cy", ".ac.cy", ".ekloges.cy", ".press.cy", ".parliament.cy", ".dm", ".com.dm", ".net.dm",
            ".org.dm", ".edu.dm", ".gov.dm", ".edu.do", ".gov.do", ".gob.do", ".com.do", ".org.do", ".sld.do",
            ".web.do", ".net.do", ".mil.do", ".art.do", ".dz", ".com.dz", ".org.dz", ".net.dz", ".gov.dz",
            ".edu.dz", ".asso.dz", ".pol.dz", ".art.dz", ".ec", ".com.ec", ".info.ec", ".net.ec", ".fin.ec",
            ".med.ec", ".pro.ec", ".org.ec", ".edu.ec", ".gov.ec", ".mil.ec", ".ee", ".com.ee", ".org.ee",
            ".fie.ee", ".pri.ee", ".eun.eg", ".edu.eg", ".sci.eg", ".gov.eg", ".com.eg", ".org.eg", ".net.eg",
            ".mil.eg", ".es", ".com.es", ".nom.es", ".org.es", ".gob.es", ".edu.es", ".com.et", ".gov.et",
            ".org.et", ".edu.et", ".net.et", ".biz.et", ".name.et", ".info.et", ".fi", ".aland.fi", ".biz.fj",
            ".com.fj", ".info.fj", ".name.fj", ".net.fj", ".org.fj", ".pro.fj", ".ac.fj", ".gov.fj", ".mil.fj",
            ".school.fj", ".co.fk", ".org.fk", ".gov.fk", ".ac.fk", ".nom.fk", ".net.fk", ".fr", ".tm.fr",
            ".asso.fr", ".nom.fr", ".prd.fr", ".presse.fr", ".com.fr", ".gouv.fr", ".ge", ".com.ge", ".edu.ge",
            ".gov.ge", ".org.ge", ".mil.ge", ".net.ge", ".pvt.ge", ".gg", ".co.gg", ".net.gg", ".org.gg", ".com.gh",
            ".edu.gh", ".gov.gh", ".org.gh", ".mil.gh", ".gi", ".com.gi", ".ltd.gi", ".gov.gi", ".mod.gi",
            ".edu.gi", ".org.gi", ".com.gn", ".ac.gn", ".gov.gn", ".org.gn", ".net.gn", ".gp", ".or", ".org.gp",
            ".gr", ".com.gr", ".edu.gr", ".net.gr", ".org.gr", ".gov.gr", ".hk", ".com.hk", ".edu.hk", ".gov.hk",
            ".idv.hk", ".net.hk", ".org.hk", ".hn", ".com.hn", ".edu.hn", ".org.hn", ".net.hn", ".mil.hn",
            ".gob.hn", ".hr", ".iz.hr", ".from.hr", ".name.hr", ".com.hr", ".ht", ".com.ht", ".net.ht", ".firm.ht",
            ".shop.ht", ".info.ht", ".pro.ht", ".adult.ht", ".org.ht", ".art.ht", ".pol.ht", ".rel.ht", ".asso.ht",
            ".perso.ht", ".coop.ht", ".med.ht", ".edu.ht", ".gouv.ht", ".hu", ".co.hu", ".info.hu", ".org.hu",
            ".priv.hu", ".sport.hu", ".tm.hu", ".agrar.hu", ".bolt.hu", ".casino.hu", ".city.hu", ".erotica.hu",
            ".erotika.hu", ".film.hu", ".forum.hu", ".games.hu", ".hotel.hu", ".ingatlan.hu", ".jogasz.hu",
            ".konyvelo.hu", ".lakas.hu", ".media.hu", ".news.hu", ".reklam.hu", ".sex.hu", ".shop.hu", ".suli.hu",
            ".szex.hu", ".tozsde.hu", ".utazas.hu", ".video.hu", ".ac.id", ".co.id", ".or.id", ".go.id", ".ie",
            ".gov.ie", ".ac.il", ".co.il", ".org.il", ".net.il", ".gov.il", ".muni.il", ".idf.il", ".co.im",
            ".ltd.co.im", ".plc.co.im", ".net.im", ".gov.im", ".org.im", ".nic.im", ".ac.im", ".in", ".co.in",
            ".firm.in", ".net.in", ".org.in", ".gen.in", ".ind.in", ".nic.in", ".ac.in", ".edu.in", ".res.in",
            ".gov.in", ".mil.in", ".ir", ".ac.ir", ".co.ir", ".gov.ir", ".net.ir", ".org.ir", ".sch.ir", ".it",
            ".gov.it", "...", ".je", ".co.je", ".net.je", ".org.je", ".edu.jm", ".gov.jm", ".com.jm", ".net.jm",
            ".org.jm", ".jo", ".com.jo", ".org.jo", ".net.jo", ".edu.jo", ".gov.jo", ".mil.jo", ".jp", ".ac.jp",
            ".ad.jp", ".co.jp", ".ed.jp", ".go.jp", ".gr.jp", ".lg.jp", ".ne.jp", ".hokkaido.jp", ".aomori.jp",
            ".iwate.jp", ".miyagi.jp", ".akita.jp", ".yamagata.jp", ".fukushima.jp", ".ibaraki.jp", ".tochigi.jp",
            ".gunma.jp", ".saitama.jp", ".chiba.jp", ".tokyo.jp", ".kanagawa.jp", ".niigata.jp", ".toyama.jp",
            ".ishikawa.jp", ".fukui.jp", ".yamanashi.jp", ".nagano.jp", ".gifu.jp", ".shizuoka.jp", ".aichi.jp",
            ".mie.jp", ".shiga.jp", ".kyoto.jp", ".osaka.jp", ".hyogo.jp", ".nara.jp", ".wakayama.jp",
            ".tottori.jp", ".shimane.jp", ".okayama.jp", ".hiroshima.jp", ".yamaguchi.jp", ".tokushima.jp",
            ".kagawa.jp", ".ehime.jp", ".kochi.jp", ".fukuoka.jp", ".saga.jp", ".nagasaki.jp", ".kumamoto.jp",
            ".oita.jp", ".miyazaki.jp", ".kagoshima.jp", ".okinawa.jp", ".sapporo.jp", ".sendai.jp", ".yokohama.jp",
            ".kawasaki.jp", ".nagoya.jp", ".kobe.jp", ".kitakyushu.jp", ".per.kh", ".com.kh", ".edu.kh", ".gov.kh",
            ".mil.kh", ".net.kh", ".org.kh", ".kr", ".co.kr", ".or.kr", ".com.kw", ".edu.kw", ".gov.kw", ".net.kw",
            ".org.kw", ".mil.kw", ".ky", ".edu.ky", ".gov.ky", ".com.ky", ".org.ky", ".net.ky", ".org.kz",
            ".edu.kz", ".net.kz", ".gov.kz", ".mil.kz", ".com.kz", ".net.lb", ".org.lb", ".gov.lb", ".edu.lb",
            ".com.lb", ".com.lc", ".org.lc", ".edu.lc", ".gov.lc", ".li", ".com.li", ".net.li", ".org.li",
            ".gov.li", ".lk", ".gov.lk", ".sch.lk", ".net.lk", ".int.lk", ".com.lk", ".org.lk", ".edu.lk",
            ".ngo.lk", ".soc.lk", ".web.lk", ".ltd.lk", ".assn.lk", ".grp.lk", ".hotel.lk", ".com.lr", ".edu.lr",
            ".gov.lr", ".org.lr", ".net.lr", ".org.ls", ".co.ls", ".lt", ".gov.lt", ".mil.lt", ".lu", ".gov.lu",
            ".mil.lu", ".org.lu", ".net.lu", ".lv", ".com.lv", ".edu.lv", ".gov.lv", ".org.lv", ".mil.lv", ".id.lv",
            ".net.lv", ".asn.lv", ".conf.lv", ".ly", ".com.ly", ".net.ly", ".gov.ly", ".plc.ly", ".edu.ly",
            ".sch.ly", ".med.ly", ".org.ly", ".id.ly", ".ma", ".co.ma", ".net.ma", ".gov.ma", ".org.ma", ".mc",
            ".tm.mc", ".asso.mc", ".mg", ".org.mg", ".nom.mg", ".gov.mg", ".prd.mg", ".tm.mg", ".com.mg", ".edu.mg",
            ".mil.mg", ".army.mil", ".navy.mil", ".mk", ".com.mk", ".org.mk", ".mo", ".com.mo", ".net.mo",
            ".org.mo", ".edu.mo", ".gov.mo", ".weather.mobi", ".music.mobi", ".mt", ".org.mt", ".com.mt", ".gov.mt",
            ".edu.mt", ".net.mt", ".mu", ".com.mu", ".co.mu", ".aero.mv", ".biz.mv", ".com.mv", ".coop.mv",
            ".edu.mv", ".gov.mv", ".info.mv", ".int.mv", ".mil.mv", ".museum.mv", ".name.mv", ".net.mv", ".org.mv",
            ".pro.mv", ".ac.mw", ".co.mw", ".com.mw", ".coop.mw", ".edu.mw", ".gov.mw", ".int.mw", ".museum.mw",
            ".net.mw", ".org.mw", ".com.mx", ".net.mx", ".org.mx", ".edu.mx", ".gob.mx", ".com.my", ".net.my",
            ".org.my", ".gov.my", ".edu.my", ".mil.my", ".name.my", ".edu.ng", ".com.ng", ".gov.ng", ".org.ng",
            ".net.ng", ".gob.ni", ".com.ni", ".edu.ni", ".org.ni", ".nom.ni", ".net.ni", ".nl", ".no", ".mil.no",
            ".stat.no", ".kommune.no", ".herad.no", ".priv.no", ".vgs.no", ".fhs.no", ".museum.no",
            ".fylkesbibl.no", ".folkebibl.no", ".idrett.no", ".com.np", ".org.np", ".edu.np", ".net.np", ".gov.np",
            ".mil.np", ".nr", ".gov.nr", ".edu.nr", ".biz.nr", ".info.nr", ".org.nr", ".com.nr", ".net.nr",
            ".ac.nz", ".co.nz", ".cri.nz", ".gen.nz", ".geek.nz", ".govt.nz", ".iwi.nz", ".maori.nz", ".mil.nz",
            ".net.nz", ".org.nz", ".school.nz", ".com.om", ".co.om", ".edu.om", ".ac.com", ".sch.om", ".gov.om",
            ".net.om", ".org.om", ".mil.om", ".museum.om", ".biz.om", ".pro.om", ".med.om", ".com.pa", ".ac.pa",
            ".sld.pa", ".gob.pa", ".edu.pa", ".org.pa", ".net.pa", ".abo.pa", ".ing.pa", ".med.pa", ".nom.pa",
            ".com.pe", ".org.pe", ".net.pe", ".edu.pe", ".mil.pe", ".gob.pe", ".nom.pe", ".pf", ".com.pf",
            ".org.pf", ".edu.pf", ".com.pg", ".net.pg", ".ph", ".com.ph", ".gov.ph", ".pk", ".com.pk", ".net.pk",
            ".edu.pk", ".org.pk", ".fam.pk", ".biz.pk", ".web.pk", ".gov.pk", ".gob.pk", ".gok.pk", ".gon.pk",
            ".gop.pk", ".gos.pk", ".pl", ".com.pl", ".biz.pl", ".net.pl", ".art.pl", ".edu.pl", ".org.pl",
            ".ngo.pl", ".gov.pl", ".info.pl", ".mil.pl", ".waw.pl", ".warszawa.pl", ".wroc.pl", ".wroclaw.pl",
            ".krakow.pl", ".poznan.pl", ".lodz.pl", ".gda.pl", ".gdansk.pl", ".slupsk.pl", ".szczecin.pl",
            ".lublin.pl", ".bialystok.pl", ".olsztyn.pl.torun.pl", ".more...", ".pr", ".biz.pr", ".com.pr",
            ".edu.pr", ".gov.pr", ".info.pr", ".isla.pr", ".name.pr", ".net.pr", ".org.pr", ".pro.pr", ".law.pro",
            ".med.pro", ".cpa.pro", ".ps", ".edu.ps", ".gov.ps", ".sec.ps", ".plo.ps", ".com.ps", ".org.ps",
            ".net.ps", ".pt", ".com.pt", ".edu.pt", ".gov.pt", ".int.pt", ".net.pt", ".nome.pt", ".org.pt",
            ".publ.pt", ".net.py", ".org.py", ".gov.py", ".edu.py", ".com.py", ".ro", ".com.ro", ".org.ro",
            ".tm.ro", ".nt.ro", ".nom.ro", ".info.ro", ".rec.ro", ".arts.ro", ".firm.ro", ".store.ro", ".www.ro",
            ".ru", ".com.ru", ".net.ru", ".org.ru", ".pp.ru", ".msk.ru", ".int.ru", ".ac.ru", ".rw", ".gov.rw",
            ".net.rw", ".edu.rw", ".ac.rw", ".com.rw", ".co.rw", ".int.rw", ".mil.rw", ".gouv.rw", ".com.sa",
            ".edu.sa", ".sch.sa", ".med.sa", ".gov.sa", ".net.sa", ".org.sa", ".pub.sa", ".com.sb", ".gov.sb",
            ".net.sb", ".edu.sb", ".sc", ".com.sc", ".gov.sc", ".net.sc", ".org.sc", ".edu.sc", ".sd", ".com.sd",
            ".net.sd", ".org.sd", ".edu.sd", ".med.sd", ".tv.sd", ".gov.sd", ".info.sd", ".se", ".org.se", ".pp.se",
            ".tm.se", ".brand.se", ".parti.se", ".press.se", ".komforb.se", ".kommunalforbund.se", ".komvux.se",
            ".lanarb.se", ".lanbib.se", ".naturbruksgymn.se", ".sshn.se", ".fhv.se", ".fhsk.se", ".fh.se", ".ab.se",
            ".c.se", ".d.se", ".e.se", ".f.se", ".g.se", ".h.se", ".i.se", ".k.se", ".m.se", ".n.se", ".o.se",
            ".s.se", ".t.se", ".u.se", ".w.se", ".x.se", ".y.se", ".z.se", ".ac.se", ".bd.se", ".sg", ".com.sg",
            ".net.sg", ".org.sg", ".gov.sg", ".edu.sg", ".per.sg", ".idn.sg", ".edu.sv", ".com.sv", ".gob.sv",
            ".org.sv", ".red.sv", ".gov.sy", ".com.sy", ".net.sy", ".ac.th", ".co.th", ".in.th", ".go.th", ".mi.th",
            ".or.th", ".net.th", ".tj", ".ac.tj", ".biz.tj", ".com.tj", ".co.tj", ".edu.tj", ".int.tj", ".name.tj",
            ".net.tj", ".org.tj", ".web.tj", ".gov.tj", ".go.tj", ".mil.tj", ".com.tn", ".intl.tn", ".gov.tn",
            ".org.tn", ".ind.tn", ".nat.tn", ".tourism.tn", ".info.tn", ".ens.tn", ".fin.tn", ".net.tn", ".to",
            ".gov.to", ".tp", ".gov.tp", ".com.tr", ".info.tr", ".biz.tr", ".net.tr", ".org.tr", ".web.tr",
            ".gen.tr", ".av.tr", ".dr.tr", ".bbs.tr", ".name.tr", ".tel.tr", ".gov.tr", ".bel.tr", ".pol.tr",
            ".mil.tr", ".edu.tr", ".tt", ".co.tt", ".com.tt", ".org.tt", ".net.tt", ".biz.tt", ".info.tt",
            ".pro.tt", ".name.tt", ".edu.tt", ".gov.tt", ".tv", ".gov.tv", ".tw", ".edu.tw", ".gov.tw", ".mil.tw",
            ".com.tw", ".net.tw", ".org.tw", ".idv.tw", ".game.tw", ".ebiz.tw", ".club.tw", ".co.tz", ".ac.tz",
            ".go.tz", ".or.tz", ".ne.tz", ".ua", ".com.ua", ".gov.ua", ".net.ua", ".edu.ua", ".org.uaGeographical",
            ".cherkassy.ua", ".ck.ua", ".chernigov.ua", ".cn.ua", ".chernovtsy.ua", ".cv.ua", ".crimea.ua",
            ".dnepropetrovsk.ua", ".dp.ua", ".donetsk.ua", ".dn.ua", ".if.ua", ".kharkov.ua", ".kh.ua",
            ".kherson.ua", ".ks.ua", ".khmelnitskiy.ua", ".km.ua", ".kiev.ua", ".kv.ua", ".kirovograd.ua", ".kr.ua",
            ".lugansk.ua", ".lg.ua", ".lutsk.ua", ".lviv.ua", ".nikolaev.ua", ".mk.ua", ".odessa.ua", ".od.ua",
            ".poltava.ua", ".pl.ua", ".rovno.ua", ".rv.ua", ".sebastopol.ua", ".sumy.ua", ".ternopil.ua", ".te.ua",
            ".uzhgorod.ua", ".vinnica.ua", ".vn.ua", ".zaporizhzhe.ua", ".zp.ua", ".zhitomir.ua", ".zt.ua", ".ug",
            ".co.ug", ".ac.ug", ".sc.ug", ".go.ug", ".ne.ug", ".or.ug", ".ac.uk", ".co.uk", ".gov.uk", ".ltd.uk",
            ".me.uk", ".mil.uk", ".mod.uk", ".net.uk", ".nic.uk", ".nhs.uk", ".org.uk", ".plc.uk", ".police.uk",
            ".bl.uk", ".icnet.uk", ".jet.uk", ".nel.uk", ".nls.uk", ".parliament.uk.sch.uk", ".uses", ".level",
            ".domains", ".us", ".ak.us", ".al.us", ".ar.us", ".az.us", ".ca.us", ".co.us", ".ct.us", ".dc.us",
            ".de.us", ".dni.us", ".fed.us", ".fl.us", ".ga.us", ".hi.us", ".ia.us", ".id.us", ".il.us", ".in.us",
            ".isa.us", ".kids.us", ".ks.us", ".ky.us", ".la.us", ".ma.us", ".md.us", ".me.us", ".mi.us", ".mn.us",
            ".mo.us", ".ms.us", ".mt.us", ".nc.us", ".nd.us", ".ne.us", ".nh.us", ".nj.us", ".nm.us", ".nsn.us",
            ".nv.us", ".ny.us", ".oh.us", ".ok.us", ".or.us", ".pa.us", ".ri.us", ".sc.us", ".sd.us", ".tn.us",
            ".tx.us", ".ut.us", ".vt.us", ".va.us", ".wa.us", ".wi.us", ".wv.us", ".wy.us", ".edu.uy", ".gub.uy",
            ".org.uy", ".com.uy", ".net.uy", ".mil.uy", ".vatican.va", ".com.ve", ".net.ve", ".org.ve", ".info.ve",
            ".co.ve", ".web.ve", ".vi", ".com.vi", ".org.vi", ".edu.vi", ".gov.vi", ".vn", ".com.vn", ".net.vn",
            ".org.vn", ".edu.vn", ".gov.vn", ".int.vn", ".ac.vn", ".biz.vn", ".info.vn", ".name.vn", ".pro.vn",
            ".health.vn", ".com.ye", ".net.ye", ".ac.yu", ".co.yu", ".org.yu", ".edu.yu", ".ac.za", ".city.za",
            ".co.za", ".edu.za", ".gov.za", ".law.za", ".mil.za", ".nom.za", ".org.za", ".school.za", ".alt.za",
            ".net.za", ".ngo.za", ".tm.za", ".web.za", ".co.zm", ".org.zm", ".gov.zm", ".sch.zm", ".ac.zm",
            ".co.zw", ".org.zw", ".gov.zw", ".ac.zw" };

    public static String getBaseDomain(String hostname) {
        String domain = "";

        // if hostname is an IP address return that address
        if (Patterns.IP_ADDRESS.matcher(hostname).matches())
            return hostname;

        for (String tld : TLD) {
            if (hostname.endsWith(tld)) {
                String[] host_parts = hostname.split("\\."), tld_parts = tld.split("\\.");
                int itld = tld_parts.length, ihost = host_parts.length, i = 0, stop = ihost - 1;

                domain = "";
                for (i = ihost - itld; i <= stop; i++) {
                    domain += host_parts[i] + (i == stop ? "" : ".");
                }
                return domain;
            }
        }

        int startIndex = 0, nextIndex = hostname.indexOf('.'), lastIndex = hostname.lastIndexOf('.');

        while (nextIndex < lastIndex) {
            startIndex = nextIndex + 1;
            nextIndex = hostname.indexOf('.', startIndex);
        }

        if (startIndex > 0)
            return hostname.substring(startIndex);
        else
            return hostname;
    }

    public static ArrayList<BasicClientCookie> parseRawCookie(String rawCookie) {
        String[] rawCookieParams = rawCookie.split(";");
        ArrayList<BasicClientCookie> cookies = new ArrayList<BasicClientCookie>();

        for (String rawCookieParam : rawCookieParams) {
            String[] rawCookieNameAndValue = rawCookieParam.split("=");

            if (rawCookieNameAndValue.length != 2)
                continue;

            String cookieName = rawCookieNameAndValue[0].trim();
            String cookieValue = rawCookieNameAndValue[1].trim();
            BasicClientCookie cookie = new BasicClientCookie(cookieName, cookieValue);

            for (int i = 1; i < rawCookieParams.length; i++) {
                String rawCookieParamNameAndValue[] = rawCookieParams[i].trim().split("=");
                String paramName = rawCookieParamNameAndValue[0].trim();

                if (paramName.equalsIgnoreCase("secure"))
                    cookie.setSecure(true);

                else {
                    // attribute not a flag or missing value.
                    if (rawCookieParamNameAndValue.length == 2) {
                        String paramValue = rawCookieParamNameAndValue[1].trim();
                        if (paramName.equalsIgnoreCase("max-age")) {
                            long maxAge = Long.parseLong(paramValue);
                            Date expiryDate = new Date(java.lang.System.currentTimeMillis() + maxAge);
                            cookie.setExpiryDate(expiryDate);
                        } else if (paramName.equalsIgnoreCase("domain"))
                            cookie.setDomain(paramValue);
                        else if (paramName.equalsIgnoreCase("path"))
                            cookie.setPath(paramValue);
                        else if (paramName.equalsIgnoreCase("comment"))
                            cookie.setComment(paramValue);
                    }
                }
            }
            cookies.add(cookie);
        }
        return cookies;
    }

    public static String getHeaderValue(String name, ArrayList<String> headers) {
        for (String header : headers) {
            if (header.indexOf(':') != -1) {
                String[] split = header.split(":", 2);
                String hname = split[0].trim(), hvalue = split[1].trim();

                if (hname.equals(name))
                    return hvalue;
            }
        }
        return null;
    }

    public static ArrayList<String> getHeaderValues(String name, ArrayList<String> headers) {
        ArrayList<String> values = new ArrayList<String>();

        for (String header : headers) {
            if (header.indexOf(':') != -1) {
                String[] split = header.split(":", 2);
                String hname = split[0].trim(), hvalue = split[1].trim();

                if (hname.equals(name))
                    values.add(hvalue);
            }
        }
        return values;
    }

    public static ArrayList<BasicClientCookie> getCookiesFromHeaders(ArrayList<String> headers) {
        ArrayList<String> values = getHeaderValues("Cookie", headers);

        if (values != null && values.size() > 0) {
            ArrayList<BasicClientCookie> cookies = new ArrayList<BasicClientCookie>();
            for (String value : values) {
                ArrayList<BasicClientCookie> lineCookies = parseRawCookie(value);
                if (lineCookies != null && lineCookies.size() > 0) {
                    cookies.addAll(lineCookies);
                }
            }
            Iterator<BasicClientCookie> it = cookies.iterator();
            while (it.hasNext()) {
                BasicClientCookie cookie = (BasicClientCookie) it.next();
                if (cookie.getName().startsWith("__utm") || cookie.getName().equals("__cfduid"))
                    it.remove();
            }
            return cookies.size() > 0 ? cookies : new ArrayList<BasicClientCookie>();
        }
        return new ArrayList<BasicClientCookie>();
    }

    public static String parseCharSet(byte[] headerBytes) {
        String charSet = null;
        String header = new String(headerBytes);
        Log.v("charset", header);
        return charSet;
    }

}