Ako ne budeš i dalje uspeo da pronađep grešku, ja mogu da ti ponudim jedan algoritam lak za implementaciju, pa ako hoćeš ti ga upotrebi:
Za svake tri tačke A, B i C proveramo da li se tačka D nalazi unutar trougla ABC, tako što proverimo da li važi jednakost P(ABC)=P(ABD)+P(BCD)+P(ACD). I samo prebrojiš na taj način koliko se takvih tačaka D nalazi unutar svake kombinacije A, B, C i ispišeš maksimum.
Za izračunavanje površine možeš na primer koristiti da je:
P=0.5*abs(x1*(y2-y3)+x2*(y3-y1)+x3*(y1-y2)).
If you don't live for something, you will die for nothing.