Sivuston uudistusta

Ylläpidon tiedoituksia ja höpötystä sivustoa koskien
Avatar
tamasochi
Viestit: 40
Liittynyt: Su 30.08.2009 1:53

Re: Sivuston uudistusta

Viesti Kirjoittaja tamasochi » Ma 05.07.2010 15:06

haksu10 kirjoitti:Samalla totetutin laajemman huoltopäivityksen tuohon härveliin; nyt se (pääsääntöisesti) osaa Suomen lokien id:t päivittää ja näin ollen esim. virstanpylväät -listan paremmin järjestää... tai toki voi hajoittaakin kaiken :P
Virstanpylväiden järjestys korjaantui ainakin meillä. Kiitos. :)

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Ma 05.07.2010 22:37

Pitkä ja kivinen tie tämän uudistuksen suhteen alkaa olemaan jo kuljettuna. Vielä on toki paljon sellaista säätämistä mikä käyttäjille ei enää (toivon mukaan) näy ongelmina, mm. automatiikka joka tulee hoitamaan uuden lokijärjestelmän sisäistä rakennetta poistaen loggausten poiston myötä jääneitä orpoja tiedosto- ja tietokantarippeitä jne.

Vielä voi myös olla jotain ongelmia jäänyt joista saa kertoa. Vielä voi olla myös ajoittain pientä tahmeutta koska muutama osuus on vielä uusimatta tehokkaammaksi ja myös lokijärjestelmän sisäinen rakenne on vielä täydentymässä.

Tämä uudistus oli sisäisesti vallan laaja koska tavoitteena oli saada järjestelmät siihen kuntoon että ne pystyvät palvelemaan taas viiveettä ja ennen kaikkia kestävät nyt ja pitkälle tulevaisuuteen kovaa tahtia kasvavan lokimäärän. Uudistuksessa lokijärjestelmä muuttui sisältämään muut loggausten tiedot omassa taulussaan ja raskaimmat, eli itse loggaustekstit omassa taulussaan (sanahakuja varten) ja lisäksi tiedostopohjaisessa järjestelmässä josta tekstit normaalisti luritellaan ulos.

Samalla lokien tallennus-/päivitysjärjestelmä muuttui käyttämään tehokkaampaa tapaa tutkia luettujen lokien mahdollista olemassaoloa tietokannassa sekä niiden mahdollista päivitystarvetta.

Myös tietokannan taulujen tyyppi muuttui suurelta osin myisam:sta innodb:ksi. Tämä aiheutti tuon viime viikolla yhtenä yönä puolen yön jälkeen olleen ennakkoimattoman huoltokatkoksen; optimointia lähti tutkimaan kaksi minua viisaampaa tietokantagurua yrittäen asetuksien fiksailulla saada puristettua lisää tehoa. Homma kuitenkin paisui alkuperäisestä asetusoptimoinnista tyyppimuutokseen koska ilmeni että innodb pystyy paljon paremmin vastaamaan geocache.fi:n nykyrakenteeseen ja tällöin oli järkevin tehdä homma saman tien huolimatta siitä ettei ennakkovaroitusta ehtinyt antamaan; ja homman suuruus vaati pitkän tauon tietokantapalvelimella.

Tämän päivän katkos lokiseurannassa sekä sitä ennen esiintynyt lokin monistuminen jopa moneen sataan kertaan johtui onnettomien sattumien summasta. Käyttöön ottamani viimeisin versio lokien käsittelijästä sisälsi pienen ajatusvirheen; tietokantatoiminto olikin jäänyt sen ehtolauseen ulkopuolelle mussä määriteltiin kantaan lisättävä tieto. Tällöin lokit joilta puuttui uudemman järjestelmän vaatima tunnistetieto mutta olivat muuten jo kannassa aiheuttivat sen että lisäysrivien muodostui ohitettiin mutta tietokantalauseke suoritettiin ja tällöin sen arvona olikin edellinen tehty kantaanlisäys; se tapahtui siis uudelleen ja uudelleen...

Onneton sattuma oli se että tämän lisäksi geocaching.com:n jossain muutoksessa oli lokiseurannan seuraama sivu muuttunut siten ettei tietojen keräys siltä onnistunut täydellisesti. Koska lokit haetaan apiliitynnän kautta sivulta tarvitaan vain kätkön url sekä jo luetuksi tunnistamiseksi lokin url. Näistä jälkimmäinen tieto jäi muodostumatta ja tällöin varsinainen lokien lataus- ja käsittelykäsky välittyi kyllä oikein mutta saman lokin osalta moneen kertaan. Kaksi päällekkäistä ongelmaa sekä se että lisäksi uusimpien löytämättömien kätköjen seuranta lykkäsi lokien lataus- ja käsittelykäskyjä teki valtavan datamassan josta oli hankala selvittää vian syy- ja seuraussuhteita. Mutta siitäkin viimein selvisi; täytyi vain lakata hermoilemasta ettei lokiseurantaan tule katkoa. Siispä pistin sen siis suosiolla katkolle ja selvitin rauhassa vyyhdin taas toimivaksi.


Nyt projektin valmistuttua olen tutkinut järjestelmän suorituskykyraporttia ja sivujen keskimääräinen latausaika on pienentynyt yli 50%, samalla pisimpään (suurikuormiuksessa vaiheessa) kestäneet sivulataukset ovat parantaneet aikaansa huomattavasti tästäkin enemmän ja enää harvoin tulee järjettömiä odotusviiveitä. Toki materiaalilataus (esim. GPX) kestää vieläkin pitkään, seikka mitä pyrin nyt parantamaan kun rakenne muilta osin on kunnossa ja on saatavissa todellisia suorituskykytestejä (ennen hajonta oli liian suuri järkevien tulosten saamiseksi järjestelmän ylikuormituksen takia).

Uskoisin että nyt on vuorossa viimein pidempi seesteinen vaihe kriittisten päivitysten suhteen ja pääsen enemmän taas panostamaan perusylläpitoon ja uusienkin ominaisuuksien toteutukseen. Tämä olisi hyvä asia jo senkin takia että jatkuvat muutokset ja bugit voivat jo joitakin hermostuttaa.

Mutta pistäkää tosiaan sanaa jos ongelmia esiintyy; harvassa on sivuston osuudet jotka eivät käytä lokitietoja ja kun kaikki on pitänyt muuttaa niin virheitä minullekin sattuu (varmaan enemmän kuin normaalihemmoille :P
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
Tervas
Viestit: 930
Liittynyt: Ma 08.01.2007 14:31

Re: Sivuston uudistusta

Viesti Kirjoittaja Tervas » Ke 07.07.2010 15:02

Ehkä tämä korjautuu ajan kanssa mutta ilmoitan kuitenkin:

Päivitin tänään lokitilastoni My-finds -filen avulla jotta uusimmat ulkomaan löydöt tilastoitaisiin.
Ihmettelin kun ei virstanpylväät täsmänneet ja huomasin, että kaksi lokia puuttuu kokonaan, ei näkynyt edes "lokiseurannan" päivämäärähaulla.
Ko. kätköt:
GCF568, löydetty 4.5.03
GC9CE1, löydetty 23.4.05
GC.comissa ja myös My Findsissä molemmat ovat.
"Jokaisen oikein rakennetun pojan tekee joskus vastustamattomasti mieli etsiä kätkettyä aarretta."
Mark Twain: Tom Sawyerin seikkailut

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Ke 07.07.2010 21:12

Tervas kirjoitti:Ehkä tämä korjautuu ajan kanssa mutta ilmoitan kuitenkin:

Päivitin tänään lokitilastoni My-finds -filen avulla jotta uusimmat ulkomaan löydöt tilastoitaisiin.
Ihmettelin kun ei virstanpylväät täsmänneet ja huomasin, että kaksi lokia puuttuu kokonaan, ei näkynyt edes "lokiseurannan" päivämäärähaulla.
Ko. kätköt:
GCF568, löydetty 4.5.03
GC9CE1, löydetty 23.4.05
GC.comissa ja myös My Findsissä molemmat ovat.
Moi,

laitatko tuon My Finds -PQ:n sähköpostilla geocache[at]geocache.fi niin eiköhän hommaan saa korjauksen.
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
Tervas
Viestit: 930
Liittynyt: Ma 08.01.2007 14:31

Re: Sivuston uudistusta

Viesti Kirjoittaja Tervas » To 08.07.2010 8:25

Tulossa on, etukäteiskiitos :)
"Jokaisen oikein rakennetun pojan tekee joskus vastustamattomasti mieli etsiä kätkettyä aarretta."
Mark Twain: Tom Sawyerin seikkailut

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » To 08.07.2010 20:40

Tervas kirjoitti:Tulossa on, etukäteiskiitos :)
Kiitokset tiedostosta... joka osoitti minulle oman tyhmyyteni, en osaa tunnistaa ulkomaisia ja kotimaisia kätköjä toisistaan :O

Nooh, tuntuu siltä että ei geocaching.com myöskään siihen pysty, saati että ovat kadottaneet kätköjä apistaan... mutta toivon mukaan nyt puuttuneet loggaukset ovat mukana ja minulla on rattoisa yö edessä koittaessani keksiä mitä ihmettä mä teen tämän solmun suhteen :P
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » To 08.07.2010 20:58

haksu10 kirjoitti:Nooh, tuntuu siltä että ei geocaching.com myöskään siihen pysty, saati että ovat kadottaneet kätköjä apistaan... mutta toivon mukaan nyt puuttuneet loggaukset ovat mukana ja minulla on rattoisa yö edessä koittaessani keksiä mitä ihmettä mä teen tämän solmun suhteen :P
Siinä vaiheessa kun FGR5 jos/kun alkaa tulemaan kaapista niin sanaa minulle... yölliset julkaisusessiot tekevät näköjään hankalaksi ylläpidon siinä vaiheessa jos täytyy kytkeä hälytyshärveli pois (väärien hälytysten estämiseksi) että kantaan saa tuupattua puuttuvia kätköjä... mun tuurilla kuitenkin julkaisuja tulee juuri tällöin :(

Mutta kokeilen nyt tänä yönä saada mukaan puuttuvia kätköjä. Jos jollain on tiedossa arkistoituja Suomikätköjä (joita geocache.fi ei tunne) niin voi laittaa viestiä; jostain syystä ainakin GCF568 sekä GC9CE1 ovat kadoksissa ja gc.comin apin kanssa näyttää olevan yhtä pelleilyä yrittää ujuttaa ulos arkistoituja.
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Pe 09.07.2010 2:45

Uudistukset jatkuvat vielä tänä iltanakin; tällä kertaa ainoastaan positiivisesti käyttäjille näkyvänä uudistuksena.

Kautta aikain on ollut ongelmana jotkut kätkölistauksen merkit, ne ovat näkyneet yleensä kysymysmerkkinä. Jälleen sain yhden viestin asiasta ja jälleen palasin tähän 3 vuoden ajan työn alla olleeseen ongelmaan.

Ongelma johtuu tilanteesta jossa kätkökuvaus on kirjoitettu esim. Microsoftin word:lla joka muuntaa merkkejä "paremmiksi" kuten kolmen pisteen korvaaminen yhdellä höppöpöppö -merkillä ja miinusmerkin (-) korvaaminen pulputipulputi -ajatusviivalla. Tämän hienon tuotoksen laittaminen geocaching.com:n kätkökuvaukseen on toki toiminut ja jopa näkynyt oikein geocaching.com:ssa joka sallii aivan kaiken ja väkertää sitten hienoja html-puppuja näyttämään listauksen.

Merkkien nappaaminen apin datavirrasta kuitenkin on ollut uskomattoman vaikeaa. Nyt kuitenkin viimein keksin keinon jossa nappaamalla merkit kiinni suoraan geocache.fi datayhteyssovelluksessa eikä vasta sen muille sovelluksille tarjoamasta datasta on merkit mahdollista tunnistaa viallisiksi (eli gc.comin apin ilmoittaman UTF-8:n vastaiseksi) ja näin ollen oli viimein tunnistettavissa milloin vikaa merkeissä on.

Seuraava vaihe oli tehdä ko. sovellukselle muunnostaulukko eri merkkien suhteen koska en pitänyt ideasta vain kylmästi geocaching.comin tyyliin suoltaa niitä ulos html-puppuna (toimiihan se yleensä, melkein aina, mutta...). Nyt merkit korvataankin alkuperäisellä merkki-idealla eli kolme pistettä on yllättäen kolme pistettä, miinusviiva miinusviiva jne... uskomatonta :D

Tällä hetkellä järjestelmä latailee kätköjä tehden sen uudella datayhteyssovelluksella ja seuraavan vuorokauden kuluessa pitäisi vähintään 98% merkkivirheistä olla poissa, korjaantuu siis sitä mukaa kuin kätköjä ehtii latamaan ja käsittelemään. Prosenttimäärä johtuu siitä että varmasti vielä joku on onnistunut käyttämään merkkiä mitä muunnostaulukko ei kata (vaikkakin 10% otoksella ei sellaista vielä ole tullut vastaan).

Kuitenkin jos/kun vielä datavirrasta tulee eteen muunnostaulukosta puuttuvia virheellisiä merkkejä niin ne kaapataan talteen ja tämän avulla voin etsiä merkeille sitten oikeat vastaavuudet ja lisätä ne muunnostaulukkoon.

Viimein, oi viimein, sai tämänkin riesan ja tuskan ratkaistua... olen sitten niiiiiiiin iloinen asian suhteen että kaikki huolet ja murheet unohtuu ainakin tunniksi :)
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

chris077
Viestit: 54
Liittynyt: La 04.10.2008 20:22
Paikkakunta: Helsinki, Paloheinä

Re: Sivuston uudistusta

Viesti Kirjoittaja chris077 » Pe 09.07.2010 12:51

Tällä ei ole mikään kiire mutta huomasin tuossa että omat tiedot/tilastot sivulla maasto- ja vaikeustaulukko sekä päivätaulukko näyttää löytömäärät oikein mutta muissa tilastoissa löytöjä on yksi vähemmän. olen myös koittanut ajaa my finds-pq:n joka sai ainakin virstanpylväät kohdilleen. Varmuuden vuoksi olen myös pari päivää odotellut jos nuo loputkin päivittyisivät näyttämään oikeaa löytömäärää mutta näin ei ole ainakaan vielä käynyt...

chris077
Viestit: 54
Liittynyt: La 04.10.2008 20:22
Paikkakunta: Helsinki, Paloheinä

Re: Sivuston uudistusta

Viesti Kirjoittaja chris077 » Pe 09.07.2010 13:22

chris077 kirjoitti:Tällä ei ole mikään kiire mutta huomasin tuossa että omat tiedot/tilastot sivulla maasto- ja vaikeustaulukko sekä päivätaulukko näyttää löytömäärät oikein mutta muissa tilastoissa löytöjä on yksi vähemmän. olen myös koittanut ajaa my finds-pq:n joka sai ainakin virstanpylväät kohdilleen. Varmuuden vuoksi olen myös pari päivää odotellut jos nuo loputkin päivittyisivät näyttämään oikeaa löytömäärää mutta näin ei ole ainakaan vielä käynyt...
Tämä taitaakin johtua siitä että yksi ulkomaan kätkö on näköjään disablessa eli Urban Birdhouse Tukholmassa http://www.geocaching.com/seek/cache_de ... aa724c37c2 ... ehkä?

Avatar
rixu
Viestit: 491
Liittynyt: Ke 10.09.2008 18:18
Paikkakunta: Nummela

Re: Sivuston uudistusta

Viesti Kirjoittaja rixu » Pe 09.07.2010 13:24

Toi on mun mielestä ollut ihan normaalia, eli tuo D/T -taulukko menee heti oikeaan arvoon, muut tulee sitten viiveellä perästä. Ihan sama ajaako PQ:sta vai tuleeko muuten.

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Pe 09.07.2010 13:42

chris077 kirjoitti:
chris077 kirjoitti:Tällä ei ole mikään kiire mutta huomasin tuossa että omat tiedot/tilastot sivulla maasto- ja vaikeustaulukko sekä päivätaulukko näyttää löytömäärät oikein mutta muissa tilastoissa löytöjä on yksi vähemmän. olen myös koittanut ajaa my finds-pq:n joka sai ainakin virstanpylväät kohdilleen. Varmuuden vuoksi olen myös pari päivää odotellut jos nuo loputkin päivittyisivät näyttämään oikeaa löytömäärää mutta näin ei ole ainakaan vielä käynyt...
Tämä taitaakin johtua siitä että yksi ulkomaan kätkö on näköjään disablessa eli Urban Birdhouse Tukholmassa http://www.geocaching.com/seek/cache_de ... aa724c37c2 ... ehkä?
Ajoin nyt käsipelillä tilastosi kohdalleen. Tuo ero johtuu muodostustavoista; jotkut tiedot kerätään reaaliaikaisemmin lokikannasta ja jotkut taas määräajoin muodostettavissa käyttäjän tilastodatoista.

Tutkin kuitenkin jälkimmäisten muodostusrutiinia koska alkaa vaikuttamaan siltä että logiikka, joka pyrkii päivittämään tiedot aina kun käyttäjän uusimmasta lokista on kulunut puoli tuntia, ei toimi nyt oikein...
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
small oaks
Viestit: 588
Liittynyt: Ma 08.01.2007 9:32
Paikkakunta: Porvoo
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja small oaks » Pe 09.07.2010 14:08

Onkohan tämä uudistus syynä siihen että logiseurannan teksti haku ei toimi niinkuin ennen? Tai antaa huomattavasti paljon vähemmän kuin ennen.. mutta ei mitään kiirutta lähinnä tiedoksi.
Still one more to find!

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Pe 09.07.2010 14:39

small oaks kirjoitti:Onkohan tämä uudistus syynä siihen että logiseurannan teksti haku ei toimi niinkuin ennen? Tai antaa huomattavasti paljon vähemmän kuin ennen.. mutta ei mitään kiirutta lähinnä tiedoksi.
Ai niin, täytyypä tämänkin asian pariin taas palata.

Uudistuksessa tosiaan on syy tähän, tai no, enemmänkin uudistuksen yhteydessä tehdyissä muutoksissa. Tästä muistaakseni ketjuun jos avauduinkin eli koko sanahaku oli hetken mietteissä poistaa. Lokeja kun on lähes puolitoista miljoonaa ja niistä kun halutaan tietyn sanan tai sananosan sisältävät niin homma on kuin raamatusta koittaisi etsiä kaikki "totisesti" -sanat :P

Mutta testailen onko uusi kantatyyppi parantanut tilannetta ja pääseekö laajemmassa haussa nyt alle puoleen minuuttiin.


Niin, ja nyt käyttäjätilastoja muodostetaan vuorokausitasolla paremmin; valitettavasti tuo muodostaminen on niin raskasta että niitä tehdään vain aamuyön tunteina eli tilastoja ei pysty reaaliaikaan saattamaan. Tosin osa loggauksista kuitenkin jää reaaliajassa saamatta joten tältä osin ei kuitenkaan millään täydelliseen ajantasaisuuteen pääse.
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Avatar
haksu10
Viestit: 3080
Liittynyt: Ke 20.12.2006 19:22
Paikkakunta: Karkku (Sastamala)
Viesti:

Re: Sivuston uudistusta

Viesti Kirjoittaja haksu10 » Pe 09.07.2010 18:33

haksu10 kirjoitti:
small oaks kirjoitti:Onkohan tämä uudistus syynä siihen että logiseurannan teksti haku ei toimi niinkuin ennen? Tai antaa huomattavasti paljon vähemmän kuin ennen.. mutta ei mitään kiirutta lähinnä tiedoksi.
Ai niin, täytyypä tämänkin asian pariin taas palata.
Nyt palattu; haku löytänee nyt kaikki esiintymät mutta onhan se hidasta... mutta parempi kuin ei mitään.
7.7.2018 jälkeen kirjoittamani viestit olen kirjoittanut yksityishenkilönä ja kätköilijänä "haksu10", en sivustoon liittyvänä taikka sen ylläpitäjänä.
Kyseistä päivämäärää edeltävät viestit voivat olla sivustoon liittyviä ylläpidollisiakin viestejä.

Vastaa Viestiin

Palaa sivulle “Ylläpidon tiedotteet”